AI-agent-udvikler OpenAI fremlagde sin nye agent Dots på årets DevDay og lovede at “sætte en ny standard for privatliv inden for frontier AI.” Det skal være et svar på Metas Muse-agent, som få måneder tidligere lancerede med det samme løfte – blot fra Meta-direktør Mark Zuckerberg, der erklærede, at Muse var “bygget fra bunden af med fokus på privatliv og sikkerhed.”
Det tegner et mønster: AI-laboratorier konkurrerer om at være mest privacy-venlige alternative til hinanden. Men virkeligheden viser sig mere kompleks end marketingudtalelserne.
Metas løfter holder ikke stik
Meta beskrev Muse som en sikker variant af sin forgænger OpenClaw. Brugerdata skulle gemmes på en sikker virtuel maskine – et “isoleret Linux-computer med browser, CPU, hukommelse og lagerplads,” som Zuckerberg formulerede det. Meta påstod, at hovedindsatsen i udviklingen af Muse gik til “omhyggelig design og engineering for at drive det mere sikkert.”
Muse ekspanderede hurtigt: appen toppede App Store-charts og nåede 600.000 daglige aktive brugere i USA inden for få uger. Men løfterne blev ikke holdt. Selvom data isoleres fra andre brugeres information, og Meta lover at introducere “kryptografisk og verificerbar” begrænsning af Metas egen adgang senere på året, kan Meta i dag stadig få adgang til brugerdata.
Sikkerhedsproblemer opstod allerede før lancering. En sikkerhedsforsker afslørede en zero-day-sårbarhed, der kunne give angribere kontrol over Muse – siden rettet. Ifølge 404 Media opstod flere alvorlige sikkerhedsfejl i sidste øjeblik før launch, blandt andet en der kunne have givet brugere adgang til Metas interne databaser.
Herudover indsamler Muse data liberalt. Platformen tillader som standard Meta at træne modeller på brugerinput – man kan fravælge det, men det kræver indsats. En Inc.-redaktør klagede over, at Muse uploadede og læste hans private beskeder uden hans samtykke. En YouTuber rapporterede, at Muse tilbød hans adresse til en fremmed via Marketplace. I begge tilfælde fungerede Muse korrekt efter design, men brugerne var ikke klar over systemets rækkevidde. Wired dokumenterede, at Muse skaber “detaljerede profiler af alle dine venner og familie.”
OpenAI lover anderledes – indtil videre
OpenAI udnyttede Metas manglende opfyldelse af egne løfter da Dots blev annonceret i slutningen af september. Alexander Embiricos, OpenAIs produktleder for Codex, fremhævede på DevDay, at OpenAI fokuserer på den “mest pålidelige, sikre og sikker assistent.” CEO Sam Altman demonstrerede, hvordan brugere kan kontrollere deres individuelle Dots – for eksempel ved at sætte regel om, at den aldrig må foretage køb over et bestemt beløb.
“Jeg tror, vi er i en anden position end Meta, da de ikke har et AI-produkt med 1,2 milliarder brugere,” udtalte Glen Coates, OpenAIs leder af appplatform. Han tilføjede, at “at lancere noget, der laver den slags fejl, er noget, vi ville prøve at passe på at undgå.”
For at tiltrække virksomheder præsenterede OpenAI en ramme, der tillader virksomheder “stærkere kontrol” over deres data og mulighed for nul data-opbevaringspolitik – altså ingen datalagring på OpenAI-servere. Hidtil er der ikke rapporteret væsentlige privatlivsskandaler med Dots. Det skyldes dog sandsynligvis, at agenten kun er tilgængelig på ChatGPT-abonnementer på $100 eller derover, så brugerbase er mindre.
Tilliden er stadig fraværende
Selvom OpenAI holder løfterne bedre end Meta, er brugerne ikke nødvendigvis tryggere ved at dele personlig information. Problemet er, at AI-agenter kræver betydeligt mere data end traditionelle apps. Når agenter skal kunne udføre komplekse opgaver, skal de have adgang til sensitive informationer – bankoplysninger, personlige kalendre, private beskeder.
Allison Johnson fra The Verge følte sig ubelejlig ved at indtaste bankoplysninger, når agenten spurgte som led i en relevant opgave, selvom Muse har Stripe-integration til at håndtere betalinger på en mere sikker måde.
Ikke alle virksomheder lover privatliv. Instinct blev offentligt kritiseret for tilsyneladende overdrevent brede vilkår, der gav den ubegrænset adgang til data. Siden har virksomheden justeret disse vilkår.
AI-laboratorier synes at satse på en treleddet strategi for at få almindelige brugere til at acceptere AI-agenter: gør dem nyttige, gør dem cute og beroligendefølgende for at udligne den ubehagelige fornemmelse, og lover privatliv – og håber løfterne holder.