Milliarderne strømmer ind i voice AI-startups. Hver uge annonceres nye modeller, der lover menneskelignende stemmer og naturlige samtaler. Men realiteten er mere nuanceret end markedingsbudskaberne.
Shawn Wen, CTO hos enterprise voice AI-platformen PolyAI, slog det fast på HumanX-konferencen for nylig: på trods af fulddupleks-modeller – som kan tale samtidig med at de lytter – har voice AI ikke fået sit “ChatGPT-moment” endnu.
“Vi har nået milepælen med fulddupleks-modeller. Den næste udfordring er at gøre resonnementet meget hurtigt, så modellerne kan hente svar hurtigt og samtalen føles naturlig,” sagde Wen.
Tillid bygges gradvist
En kritisk faktor er tillid. Wen påpegede, at AI-agenter i kundeservice ikke må lyde robottiske. De skal give kunder tilstrækkelig selvtillid til at kunne løse problemer.
“Jeg tror næste fase bliver lidt anderledes. Når stemmen er god nok, og kunden er villig til at engagere sig i de første to-tre omgange, begynder de at opbygge tillid. Over tid vil de tænke: jeg behøver måske ikke tale med et menneske, hvis agenten kan løse mit problem,” forklarede Wen.
Alex Gay, CMO for mødenotatør-platformen Otter, var enig i, at kvaliteten har betydning. Han pegede på speaker identification, hentning af intentioner og integration med organisatorisk viden som vigtige trin mod automation. Otter arbejder også på digitale avatarer, der kan repræsentere mennesker i møder.
“Hvis du tænker på de møder, du sidder i nu, sker de bedste samtaler, hvor der er debat, strategiske diskussioner, og hvor du føler, at der er et forhold bag det. Hvis du ikke kan have det med en avatar, er det bare et spørgsmål-og-svar chatbot,” sagde Gay.
Genkendelighed og kontekst er afgørende
Et centralt problem er genkendelighed. Shawn Wen påpegede, at ASR-modeller (automatic speech recognition) ofte mister vigtige nøgleord, hvilket skader kontekstforståelsen. Det betyder, at efterfølgende AI-handlinger baseres på ufuldstændig information.
Gay var enig: “For Otter var transskription aldrig slutmålet. Det var det lag, vi kunne begynde at drive produktivitetsgevinster på baggrund af. Men hvis din oprindelige transskription ikke havde den nøjagtighed, du havde brug for, bliver alle dine efterfølgende handlinger fejlagtige. Og når det begynder at tage handling, som er forkert, mister du tillid til platformen. Det er kritisk for os at blive ved med at forbedre ASR-modellen, fordi alle downstream-effekter er betydelige,” forklarede Gay.
Gennemsigtighed kræver honnørord
Der stilles også spørgsmål til gennemsigtighed og etik. Voice AI-værktøjer bør gøre det klart for brugere, når de bliver optaget eller taler med AI.
Otter har fokus på at bygge tillid blandt møtedeltagere. Selv i møder uden bot ønsker virksomheden at underrette alle i chatten, når mødet bliver optaget. PolyAI’s Wen understregede ligeledes vigtigheden af at gøre det klart for folk på virksomhedssamtaler, at de taler med kunstig intelligens.
Budskabet fra begge ledere er klart: voice AI har løst nogle tekniske udfordringer, men fremtiden afhænger af, om teknologien kan blive så pålidelig, naturlig og gennemsigtig, at mennesker virkelig stoler på den. Det er ikke en teknisk spørgsmål længere – det er et spørgsmål om tillid.