David Robinson var ansvarlig for sikkerhedsrapporterne der fulgte hver større modeludgivelse fra OpenAI. I denne uge sagde han op fra sin stilling og offentliggør nu kritikken i et indlæg i The Atlantic.
Robinson karakteriserer kulturen i AI-industrien som fundamentalt ødelagt. Det er ifølge ham ikke blot et spørgsmål om at pålægge nogle nye regler eller regulering af træning af modeller. I Silicone Valley har man ageret med »ekstrem selvtillid« og »vedvarende sprints«, hvor man byggede stadig større og bedre modeller med »uimodsagt optimisme« der ignorerer eller undervurderer potentielle problemer.
»Given dagens risici, frontier labs skal køres som atomkraftværker eller travle lufthavne, med lag af redundans og omhyggelig, tidskrævende planlægning, så tilfældig menneskelig fejl ikke åbner døren til katastrofe«, skriver Robinson.
Robinson er blot det seneste udtryk for en voksende bølge af forskere og sikkerhedsmedarbejdere der har forladt prominente AI-virksomheder. Jacob Coxon startede eksodussen ved at sige op fra Anthropic og offentligt erklære at AI »kunne dræbe os alle inden årtets udgang«. Ham fulgte Robert O’Callahan, Bilal Chughtai og Josh Engels fra Google DeepMind, samt Joe Benton fra Anthropic.
Robinsons advarsel peger på et strukturelt problem i industrien: hastekulturen og »move-fast-and-break-things«-mentaliteten, der karakteriserer Silicon Valley, passer dårligt med udvikling af systemer med potentielt global påvirkning. Robinson argumenterer for at AI-virksomheder må udvikle større beskedenhed og se uden for den isolerede teknikkverd, der længe har været præget af ubetinget optimisme omkring nye teknologier.
Samtidigt understreger Robinson at kritikere som ham selv må mødes med en vis skepsis: de hjalp til med at skabe problemerne de nu advarer imod. Men det betyder ikke deres advarsler skal ignoreres. Deres indsigt fra arbejde ved frontlinjen af AI-udvikling giver dem perspektiv der er værd at lytte til.