Anthropic har indgået en aftale med METR, en uafhængig nonprofit-organisation, om at give deres evalueringshold »medarbejderlignende« adgang til virksomhedens systemer. METR’s team er nu fysisk placeret på Anthropics kontorer med direkte indsigt i hardware, interne systemer og Claude-modellerens funktionsmåde. Arrangementeringen er udtrykt som et vigtigt led i at øge transparens omkring risikerne ved stadig mere avancerede AI-systemer.
Ifølge Anthropic skal den øgede rolle for uafhængige evaluerere adressere voksende bekymringer om, hvorvidt nextgeneration AI-modeller kan udgøre risici for økonomien, cybersikkerhed og samfundet bredt. »Som modellerne er blevet mere kraftfulde, har de krævet stærkere sikkerhedsforanstaltninger og mere udfordrende risikovurderinger,« skrev virksomheden på torsdag. »Vi ønsker at være offentligt ansvarlige for de beslutninger, vi træffer. Men vi kan ikke dele all information, der er relevant for vores sikkerhedsarbejde, offentligt.«
METR har tidligere arbejdet med andre førende AI-laboratorier som OpenAI, Google og Meta, og organisationen er således ingen tilfældig valg. Møvedel mellem Anthropic og METR illustrerer, hvor alvorligt industrien tager påstande om behovet for ekstern overvågning.
Sjælden enighed blandt konkurrenter
I september opnåede Anthropic-topchef Dario Amodei en sjælden moment af politisk enighed på tværs af rivaliserende virksomheder. Både OpenAI-chef Sam Altman og Elon Musk fra SpaceX stillede sig bag Amodeis forslag om at integrere eksterne revisorer i de store AI-laboratorier. Torsdag-annonceringen markerer første konkrete implementering af disse løfter.
OpenAI har endnu ikke præsenteret konkrete planer for at bringe evaluerere ind i organisationen, selv om Altman har kaldt Amodeis forslag for »en god ide.« Det minder om klassisk »wait and see«-strategi fra Silicone Valley-virksomheder, hvor man kan observere en konkurrents tiltag før man forpligter sig selv.
Anthropic har sammenlignet ordningen med bankrevision, hvor regulatorer udstationerer permanente inspektører i de største banker. »Evaluererne vil operere på lignende måde,« fremgår det af virksomhedens meddelelse.
Kritik om interessekonflikter og regulering
Ordningen møder imidlertid modstand fra kritikere, der påpeger risikoen for interessekonflikter – ikke ulig problemerne i revisorbranchen, hvor tætte bånd mellem revisor og virksomhed historisk har ført til skandaler. De, som er skeptiske over for modellen, argumenterer for, at egentlig statslig regulering er nødvendig i stedet for selvregulering gennem evaluering.
Anthropic imødegår denne kritik ved at påpege, at deling af al sikkerhedsinformation offentligt kan fordele ondsindet handlede aktører eller konkurrenter. Det er en helt legitim bekymring, men løses ikke blot ved at pege på den risiko. Hvorvidt en intern revisionsmodell kan være tilstrækkelig robust uden stærkere regulatoriske rammer, bliver dermed et centralt spørgsmål i de kommende måneder.