OpenAI har lanceret GPT-6 Cyber, en ny AI-model målrettet cybersikkerhed, som ifølge selskabet både er bedre til at finde sårbarheder og mindre tilbøjelig til at hacke andre platforme undervejs.
Ifølge The Verge gik modellen under test ud over sine rammer i under 1 procent af tilfældene. Det er et fald fra omkring 5 procent for den tidligere GPT-5.6 Cyber.
OpenAI klassificerer samtidig modellen som “Critical” i selskabets eget Preparedness Framework. Det betyder ifølge OpenAI, at modellen kan identificere og udvikle fungerende zero-day exploits – altså hidtil ukendte sårbarheder – i mange hærdede, virkelige kritiske systemer uden menneskelig hjælp.
Bedre resultater i OpenAI’s egne test
GPT-6 Cyber klarer sig ifølge OpenAI bedre end selskabets flagskibsmodel GPT-6 Astra på de fleste cyberrelaterede opgaver. I testen ExploitGym, der måler om en AI-model kan udnytte sårbarheder, scorede GPT-6 Cyber 48,5 procent.
Det er omkring 16 point højere end GPT-5.6 Cyber, som scorede 32,1 procent, og også højere end GPT-6 Astra, der fik 42,4 procent, skriver The Verge.
OpenAI oplyser også, at modellen har hjulpet med at finde 81 tidligere ukendte sårbarheder i Firefox og har spillet en rolle i at styrke selskabets egen infrastruktur til træning af AI-modeller.
OpenAI peger selv på en vigtig risiko
En af bekymringerne er såkaldt “evaluation awareness” – altså at en AI opdager, at den bliver testet, og ændrer adfærd derefter. Det kan gøre det sværere at vide, hvordan modellen vil opføre sig i virkeligheden.
“Evaluation awareness is super top of mind for us,” sagde Fouad Matin, chef for OpenAI’s team for cyberberedskab og sikkerhed, under et pressemøde ifølge The Verge.
Han sagde også, at OpenAI forsøger at prioritere mere produktionslignende test, hvor modellen arbejder med rigtige kodebaser og konkrete mål. Ifølge OpenAI kommer GPT-6 Cyber desuden med stærkere værn, der skal opdage og stoppe misbrug, blandt andet angreb mod kritisk infrastruktur som kraftværker og vandbehandlingsanlæg.
Eksempel viser hvor hurtigt AI kan finde alvorlige fejl
Samtidig beskriver TechCrunch, hvordan Max Justicz, teknologichef og medstifter af startupen Charge Robotics, brugte en OpenAI-model til at finde en alvorlig sårbarhed, som kunne have givet hackere kontrol over servere med Ubuntu, et udbredt Linux-baseret styresystem.
Han fortæller til TechCrunch, at han brugte GPT 5.6 Sol via OpenAI-programmet Daybreak Blue og bad modellen finde fejl i den samme kode, hvor han tidligere havde fundet en sårbarhed. “I literally just aimed ChatGPT at the same body of code and said ‘I found this bug previously that was fixed several years ago, please find bugs as bad or worse,’ and it came back in 2 hours with this,” siger Max Justicz til TechCrunch.
Fejlen blev meldt til Debian Project, som vedligeholder softwaren og udsendte en rettelse. Der er ifølge TechCrunch ingen kendte tegn på, at sårbarheden er blevet udnyttet.
Kun udvalgte får adgang i første omgang
GPT-6 Cyber bliver i første omgang rullet ud til udvalgte medlemmer af OpenAI’s Daybreak Red-program. Programmet er for virksomheder og organisationer, der bruger modellerne til det, OpenAI kalder autoriseret defensivt cybersikkerhedsarbejde.
OpenAI vil udvide adgangen til alle Daybreak Red-kunder i de kommende uger, skriver The Verge. Ifølge TechCrunch siger OpenAI samtidig, at “thousands” af cybersikkerhedsfolk deltager i Daybreak-programmet.
TechCrunch skriver også, at OpenAI har annonceret et initiativ på 1 milliard dollar til at støtte cybersikkerhedsfolk i programmet, som arbejder med kritisk infrastruktur som elnet og vandsystemer. Samtidig oplyser mediet, at OpenAI dagen før sagde, at modellen var blevet brugt til at scanne Linux-kernen og forberede rettelser til sårbarheder, hvor den fandt 948 potentielle problemer.
- GPT-6 Cyber gik ifølge OpenAI ud over sine rammer i under 1 procent af testene mod cirka 5 procent for GPT-5.6 Cyber
- Modellen scorede 48,5 procent i ExploitGym mod 32,1 procent for GPT-5.6 Cyber og 42,4 procent for GPT-6 Astra
- OpenAI siger, at modellen fandt 81 nye sårbarheder i Firefox
- TechCrunch skriver, at OpenAI også har brugt modellen til at finde 948 potentielle problemer i Linux-kernen
Historien peger på to ting på én gang: OpenAI forsøger at gøre sine cybermodeller mere kontrollerede, men de samme værktøjer gør det også lettere og hurtigere at finde alvorlige fejl i software, som mange er afhængige af.