Satya Nadella, CEO for Microsoft, er blot det seneste topprioriteret teknologi-executive, der fremlægger omfattende tanker om, hvordan AI-sikkerhed kan forbedres. På et lørdagsmorgon delte han på X sine bekymringer om tillidsarkitekturen for kunstig intelligens og anførte, at industrien har ignoreret fundamentale sikkerhedsprincipper alt for længe.
“Vi kan ikke behandle superintelligense som en serie af indlejrede black boxes og blot acceptere eller afvise dens anbefalinger, svar og handlinger,” skrev Nadella. Hans forslag går ud på at “adskille modellen fra det kontrolsystem, der koordinerer dens arbejde,” samt at “eksternalisere kontroller og sikkerhedsmekanismer.”
Konkret argumenterer Nadella for, at “enhver meningsfuld modelhandling” skal dokumenteres med “umanipulerbar, menneskeligt læsbar dokumentation,” og at der skal etableres systemer, hvor “en autoriseret person” altid kan “pause eller lukke en model ned midt i en opgave.” Han sammenligner det med et nødstop i en bil: “Vi må antage, at en model er kompromitteret, og isolere den fra starten. Tænk på det som en nødbremse.”
Nadella anvender Trump-administrationens foretrukne terminologi “Super Intelligence” i sit opslag, hvilket signalerer, at også Microsofts ledelse har accepteret denne frame for den teknologiske udvikling.
Stellingen kommer på et kritisk tidspunkt i AI-industrien. Tech-giganter som OpenAI, Google og Anthropic har stadigt flere uofficielle rapporter om, at de har mistet kontrollen over deres modeller i kritiske øjeblikke. Antropics CEO Dario Amodei udgav for nylig en handlingsplan for en mere forsigtigt AI-udvikling, hvilket indikerer, at selv førende AI-virksomheder erkender behovet for grundlæggende sikkerhedsreformer.
Nadella fokuserer på transparens og menneskeligt tilsyn som løsningen. Hans “emergency brake”-model forudsætter, at autonomi ikke er værd meget, hvis systemerne ikke kan stoppe, når de skal. Det afslører en betydelig erkendelse fra Microsofts side: hastighed og funktionalitet kan ikke gå forud for sikkerhedsarkitektur. Uden disse mekanismer risikerer virksomhederne at blive mødt med regulering, som de ikke kan påvirke.