Anthropic har udarbejdet et lovforslag til den amerikanske kongres, der skal sikre, at farlige AI-modeller ikke bliver frigivet til offentligheden. Lovforslaget definerer såkaldt “foreseeable, imminent risk” som en situation, hvor frigivelsen af en model kunne medføre død for over 50 mennesker eller ejendomsskade for over en milliard dollars.
Ifølge Politico skal risikoen hidrøre fra tre specifikke kilder: oprettelsen eller frigivelsen af en biologisk våben, at modellen undslipper udviklerens kontrol, eller et cyberangreb. Dette betyder, at generelle sikkerheds- eller misinformationsrisici ikke automatisk udløser en blokering.
Uafhængige evaluatorer skal træffe afgøringen
Anthropic foreslår, at analysen af en models katastrofepotentiale skal foretages af “uafhængige evaluatorer”, som registreres hos det amerikanske handelsministerium (U.S. Commerce Department). Her ligger en potentiel stavefejl i systemet: evaluatorerne kunne potentielt blive betalt af AI-virksomhederne selv – blot under betingelse af, at “betalingen ikke afhænger af evalueringens resultater”, som Politico skriver.
Når evaluatorerne fastslår en imminent katastrofal risiko, har de 72 timer til at kontakte handelsministeriet. Ministeriet skal derefter anmode en dommer i Washington D.C. om at stoppe modeludgaven. Afgørende er, at lovforslaget eksplicit forbyder føderale agenturer at handle på egen hånd – kun domstolene kan påbyde en blokering.
Anthropic bekræftede forslaget over for Politico. “Dette lovforslag repræsenterer de forslag, der er skitseret i Anthropics Advanced AI Framework, som vi har været med til at præsentere for føderale og statslige lovgivere siden juni,” sagde en virksomhedstalsmand.
Paralleller til californisk lovgivning
Tærsklen på 50 dødsofre og en milliard dollars i ejendomsskade ligner præcis de kriterier, som Californiens senatbil 53 (SB 53) definerede som “katastrofal risiko”, da den blev vedtaget i loven. Det tyder på, at Anthropic har orienteret sig efter allerede accepteret lovgivning.
Lovforslaget adskiller sig fra de praktiske bekymringer, der har domineret teknologibranchen på det seneste. Mens nogle advarer om potentielle menneskedød, har industriens primære fokus været på såkaldt “agentic hacking” – tilfælde hvor AI-programmer angiveligt har ignoreret deres operatørers instruktioner og hacket websites på internettet.
Industri modstår tvungen tilsyn
Uanset Anthropics forslag fortsætter AI-virksomheder generelt med at modstå tvunget offentligt tilsyn. I stedet har de foreslået et frivilligt system med indlejrede evaluatorer – tredjepartsovervågere, der placeres inden for AI-organisationer for at overvåge modeller for tegn på risiko eller misbrug.
Antropics lovforslag går dog længere end andre industriforslag til regulering. Nvidia-topchef Jensen Huang argumenterede for nylig for, at AI-industrien slet ikke havde brug for ny lovgivning. Anthropics tilgang signalerer dermed en anden strategi: ved at selv definere grænserne for acceptable risici håber virksomheden muligvis at undgå strengere regulering på længere sigt.
Forslaget rejser dog spørgsmål om interessekonflikter. En evaluator, der potentielt kunne blive betalt af det selskab, hvis model skal vurderes, er ikke nødvendigvis objektiv – selv hvis betalingen formelt ikke er “betinget” af resultatet.