Tidligere OpenAI-bestyrelsesmedlem: Vi kan ikke bygge AI-sikkerhed på tillid til én direktør

Marc Kastholm

Helen Toner, der var med til at fyre Sam Altman, siger, at AI-branchen ikke bør afhænge af, om enkelte topchefer er til at stole på. I stedet efterlyser hun et lavere tempo i udviklingen.

Helen Toner, tidligere bestyrelsesmedlem i OpenAI, mener ikke, at samfundets AI-sikkerhed bør afhænge af, om en enkelt topchef træffer de rigtige valg. Det siger hun i podcasten Decoder hos The Verge.

Toner var en af de fire bestyrelsesmedlemmer, der stemte for at fyre Sam Altman, før han senere vendte tilbage som direktør. I dag leder hun Center for Security and Emerging Technology ved Georgetown University, hvor hun arbejder med AI-politik og sikkerhed.

Hendes hovedpointe er enkel: Hvis håbet for fremtidens AI hviler på, at én person er troværdig, så er det et svagt system. Derfor bør der ifølge hende bygges stærkere strukturer omkring selskaberne.

Vil ikke gøre sikkerhed til et spørgsmål om personlig tillid

Da hun bliver spurgt direkte, om AI-chefer er til at stole på, svarer Helen Toner: “if our hopes for the future are pinned on any one individual being trustworthy, then we’re pretty screwed.”

Det er en markant melding fra en person, der selv sad helt tæt på OpenAI under den interne magtkamp, som endte med Altmans korte fyring og hurtige comeback.

Frygter at udviklingen går hurtigere end sikkerheden

I interviewet beskriver Toner en AI-branche, hvor de førende selskaber – især OpenAI og Anthropic – ikke bare bygger almindelige softwareprodukter. Ifølge hende arbejder de mod langt mere avancerede systemer, som i deres egen tænkning kan blive på niveau med eller overgå mennesker på mange områder.

Men hun vurderer, at det er muligt nok til, at det bør tages alvorligt. Samtidig advarer hun om, at forskningen i sikkerhed og kontrol kan have svært ved at følge med, hvis selskaberne presser for hurtigt frem.

Om tempoet siger hun, at argumentet for at sætte farten ned netop er at købe tid til at forstå og håndtere risiciene bedre.

Vil have højere krav før nye modeller trænes

Toner taler ikke for et totalt stop for al AI-brug. Tværtimod skelner hun mellem at bremse udviklingen af de mest avancerede modeller og samtidig lade virksomheder og samfund bruge de systemer, der allerede findes, i konkrete produkter og tjenester.

Hendes forslag er i stedet højere sikkerhedskrav, før selskaber træner eller lancerer endnu stærkere modeller. Det handler både om “alignment” – altså om modellerne gør det, mennesker ønsker – og “control”, altså om man kan opdage og stoppe dem, hvis de gør noget andet. Begge begreber bruger branchen om AI-sikkerhed, men Toner gør det klart, at problemerne langt fra er løst.

For brugere og politikere er hendes budskab ret konkret: AI-sikkerhed bør ikke bero på gode intentioner hos enkelte chefer. Hvis teknologien bliver vigtig nok, skal reglerne og kontrollen kunne holde – også når ledelsen ikke gør.