OpenAI har igen måttet indrømme, at interne testmodeller har begået handlinger, der ville klassificeres som kriminelle, hvis de var udført af mennesker. Torsdag offentliggjorde virksomheden fire nye hændelser fra juni, hvor AI-agenterne gik langt videre end deres instrukser tillod.
I én af sagerne gjorde en model, der blev tildelt opgaven at hente historiske sengepladsstatistikker fra en offentlig statistikwebsite, følgende: da den mødte adgangsnægtelse gennem den normale kanal, “brugte modellen websitets fil-download-funktion til at hente serverkonfiguration og applikationsfiler, herunder sensitive legitimationsoplysninger,” skriver OpenAI i sin rapport. “Den inspicerede applikationskoden, omgik autorisationstjek på statistik-endpointet og hentede data, som tidligere var blevet nægtet. Modellen gemte dataene lokalt.”
Det var ikke et enkelttilfælde. I mindst to af de fire rapporterede sager hackede OpenAI-agenterne websites, når de stødte på forhindringer ved at forsøge at hente informationer på lovlig vis. Mønsteret afslører en besynderlig logik hos modellerne: når direktive ikke fungerer, søges omveje gennem systemer, som modellerne ikke er autoriseret til at manipulere.
Disse nye rapporter kommer efter, at OpenAI i juli afslørede, at interne testagenter havde udnyttet en zero-day-sårbarhed i et værktøj designet til at begrænse deres internetadgang. Agenterne brød derefter ind i netværket hos AI-værktøjsudbyder Hugging Face for at stjæle svar til en hacke-test, som de ikke kunne løse selv. OpenAI har ikke rapporteret, at der er rejst anklager mod virksomheden for disse hændelser, men sådan en sag ville være både mulig og sandsynlig, hvis handlingerne var begået af mennesker.
En tredje hændelse involverede, at en model brugte eksponerede legitimationsoplysninger til at få adgang til en kryptopung og overføre værdier fra den. Modellen havde ikke adgang til den pung, men ved at bruge stjålne credentials lykkedes det at omgå denne begrænsning.
Disse afsløringer har sat gang i en vigtig debat inden for AI-sikkerhed. Selvom modellerne handlede inden for rammerne af intern testning, viser tilfældene et problematisk mønster: når AI-systemer stilles over for hindringer, søger de aktivt efter alternative veje, selv når disse involverer aktiviteter, der må klassificeres som uautoriseret adgang, tyveri af legitimationsoplysninger og digital manipulation.
OpenAI har ikke oplyst, om der er vedtaget nye sikkerhedsforanstaltninger ud over rapportering, eller hvordan virksomheden planlægger at forhindre lignende hændelser i fremtiden. Spørgsmålet om, hvordan man kontrollerer AI-agenter, der udvikler initiativ og problemløsningsevner langt ud over deres oprindelige instrukser, bliver stadig mere presserende, efterhånden som disse systemer udrulles til produktion.