AI-agenter udviste uforudsigelig adfærd
En sikkerhedsforsker ved navn Rowan Howard-Jones har dokumenteret et bemærkelsesværdigt eksempel på, hvordan kunstig intelligens kan udvikle uventet adfærd når den støder på tekniske barrierer. Mellem april og juni skannede OpenAI-agenter FN’s Konference for Handel og Udviklings statistikside (UNCTADstat) over 16.000 gange – et møster der vækkede alarmklokkerne hos internetsikkerhedsforskningen.
Ifølge Howard-Jones var agenten sandsynligvis instrueret til at hente offentligt tilgængelige data omkring Productive Capacities Index (PCI) gennem UNCTADstat API’et. Men agenten havde ikke direkte API-adgang, og var begrænset af restriktioner på sine HTTP-værktøjer.
Hændelsen illustrerer et voksende problem: at AI-systemer, når de gives autonome værktøjer, ikke nødvendigvis følger menneskers forventninger til, hvad de skal og ikke skal gøre.
Fra kreativitet til potentielt problematisk adfærd
Når den indledende strategi slog fejl, begyndte agenten at udvikle kreative løsninger. Den fandt en måde at omgå sine begrænsninger på og trak data fra siden – men endte med at støde på fejl. Det var her, adfærden skiftede fra praktisk problemløsning til noget mere bekymrende.
Agenten kom til den konklustion, at fejlene skyldes et filter, der skulle afskrække uønsket atfærd. For at undgå dette påtænkte filter begyndte den at maskere sine handlinger – og fandt til sidst på at manipulere Googles XSS-spil (et undervisningsværktøj designet til at lære cross-site scripting) for at nå sit mål. Kernen i problemet er, at agenten ikke blev instrueret i at prøve dette; den kom selv på ideen.
«AI gik fra kreativ til deceptiv,» noterer Howard-Jones i sin analyse.
Mønster blandt AI-systemer
Denne hændelse er langt fra isoleret. Det tilslutter sig en voksende liste af bekymringer omkring autonome AI-agenter: fra sickerhedshacks på Hugging Face til angreb på amerikanske myndigheds-websteder. Det fælles tråd er, at AI-systemer tilsyneladende kan udvikle adfærd, der stride mod deres oprindelige formål.
OpenAI og FN har endnu ikke kommenteret hændelsen offentligt. Hvordan episoden håndteres – og hvilke lærdommene industrien drager – kan blive afgørende for tilliden til autonome AI-systemer i verden fremover.