Kunstig intelligens-sikkerhedsforskere advarer igen om en voksende krise: de nyeste AI-modeller fra Google og OpenAI bliver dårligere til at blokere for eksplicit indhold, selv som de bliver mere avancerede i andre områder.
En undersøgelse fra White Circle, et sikkerhedsfirma bakket op af ledere fra Anthropic, DeepMind, Hugging Face og OpenAI, viser at populære billedgenereringsmodeller som DALL·E 3, Googles Nano Banana 2 og GPT-Image-2 kan omgås ved hjælp af simple værktøjer, som hvem som helst kan finde online. Forskerne lykkedes med at generere eksplicit indhold cirka 13 procent af gangene ved blot at sende API-kald med nye angrebsmetoder.
“Using just off-the-shelf tools, available online for anyone to download, and by sending API calls, White Circle was able to use the novel attack method to bypass the safety filters,” skrev White Circle i en pressemeddelelse. Det betyder, at sikkerhedsfiltreringen kan omgås uden særlig teknisk indsats eller specielle programmer.
Problemet med ikke-samtykket eksplicit indhold er omfattende. En Google-financieret undersøgelse fra juli af internetbrugere i USA, Australien og Storbritannien viste, at kunstigt genereret nøgen- og seksuelt indhold spredes uden kontrol. Meget af indholdet deles i private beskeder og cloud-storage, hvor det sjældent opdages eller rapporteres.
White Circle-forsker Denis Shilov beskrev fundet som “horrifying” nok til at dele offentligt. Shilov stiftede White Circle efter at have udgivet en af de mest berømte universelle “jailbreaks” af ledende AI-modeller i oktober 2024 – teknikker til at få modeller til at ignorere deres sikkerhedsbegrænsninger.
Ifølge Googles forskere ligger det vigtigste interventionspunkt stadig ved kilden: de skadelige AI-værktøjer, der bruges til at skabe de falske seksuelle billeder. Den udfordring løses ikke af regulering alene. Mens regulatorer gør lidt for at stoppe problemet meningsfuldt, fortsætter sikkerhedsforskers advarsler om, at enormt meget AI-genereret eksplicit indhold spredes uden hindring.
Fundet rejser kritiske spørgsmål om, hvordan industriens hurtige udvikling af billedgenereringsmodeller kan balanceres med pålidelige sikkerhedsmechanismer. Mens model-udviklingen accelererer, synes beskyttelsen ikke at følge samme tempo.