Fra personlig tragedie til tech-løsning
Da opkaldet kom, troede Tarini Padmanabhuni’s bedstefar, at han talte med sin bror. Stemmen i røret sagde, at broderen var blevet kidnappet, og at eneste vej til at få ham tilbage var at betale løsepenge. Bedstefaren betalte – kun for senere at opdage, at broderen hele tiden havde været et helt tredje sted, uden at vide noget om situationen. Stemmen var en deepfake: en AI-genereret efterligning af hans brothers stemme.
“Det, der blev tilbage hos mig, var ikke pengene,” siger Padmanabhuni om hændelsen. “Det var, at han slet ikke havde nogen måde at se gennem det på.”
Det var for omkring to år siden. I dag arbejder hun som stifter af DetectifAI, et San Francisco-baseret selskab, der skal sikre, at andre ikke bliver snydt på samme måde. Den udfordring er ikke lille: ifølge FBI mistede amerikanere næsten 900 millioner dollar til AI-drevne svindel sidste år – en stigning på 24 procent fra 2024. Mennesker over 60 år tabte dobbelt så meget som dem mellem 50 og 59.
Konkurrence fra giganter – men en anden tilgang
Markedet for deepfake-stemmegenkendelse er ikke tomtom. Virksomheder som Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety og Nuance (også ejet af Microsoft) konkurrerer allerede om markedsandele. Men de eksisterende detektionsløsninger kører efter Padmanabhuni’s opfattelse i skyen på fjerne servere, hvilket betyder, at telefonproducenter ikke kan bygge dem direkte ind i deres enheder – og overlader den truede person uden effektiv forsvar.
DetectifAI tager en anden vej. I stedet for at reducere store cloud-modeller til at passe på en telefon, designer virksomheden kompakte AI-modeller fra starten, som er små nok til at køre inde i smartphonens operativsystem. Målet er at levere et øjeblikkeligt svar på, om en stemme er AI-genereret – under opkald, i stemmebeskeder og andet audio – uden at lyden forlader enheden.
“Min analogi er AT&T’s rolle ved lanseringen af den oprindelige iPhone, da carrierens eksklusive aftale satte den fra konkurrenterne,” forklarer Padmanabhuni. Den første telefonproducent, der udstyrer sine devices med DetectifAI, vil få et konkurrencemæssigt forspring, mener hun – og deepfake-detektion bliver en standardspecifikation, ligesom kameraopløsning.
Revenue fra dag ét – og planer for stordrift
Kernen i produktet er DetectifAI’s software development kit (SDK), en kodepakke som andre virksomheder kan bygge ind i deres produkter og licensere gennem eksisterende kanaler. Padmanabhuni siger, at en sekundær indtægtsstrøm kommer fra at licensere teknologien til virksomheder og bedrageri-forebyggende firmaer.
Startuppet har allerede tidlig revenue og håndterer over 100.000 opkald om måneden for finansielle institutioner i Indien. Disse opkald foretages af AI-stemmebrokere, der håndterer inkassoopgaver og opfølgning på lånedokumenter – med deepfake-detektion og stemmebekræftelse på hvert eneste opkald. Hun ønsker ikke at navngive kunderne på grund af fortrolighedsaftaler.
Padmanabhuni begyndte at arbejde med maskinlæring som 12-årig og studerede senere cyber-physical systems (teknologi der forbinder software med fysisk maskinen) på Manipal Institute of Technology i Indien. Der blev hun ifølge egne udsagn den yngste team lead for det, hun beskriver som Indiens første selvkørende racerbil-division i Formula Student, en international student-ingeniørkonkurrence.
Små investeringer, store ambitioner
Da DetectifAI blev spurgt om det mest givende øjeblik for startuppet hidtil, pegede Padmanabhuni på en lille WhatsApp beta-test, hvor brugere kan sende mistænkelige stemmebeskeder ind og få svar på, om de er ægte. En tester, hvis egne slægtninge var blevet svindlet, ringede og sagde, at de uden tøven ville betale for det. “Min bedstefar havde ikke det,” sagde hun.
DetectifAI har hidtil samlet en lille seed-investering fra Josh Constine (tidligere redaktør på TechCrunch) og Manohar Kamath, principal ved konsulentfirmaet KM Growth. Startuppet er en af de virksomheder, som TechCrunch’s redaktionelle team har vurderet til at konkurrere i den prestigefyldte Startup Battlefield-konkurrence, som finder sted ved TechCrunch Disrupt 13. – 15. oktober i downtown San Francisco.