Pave Leo udfordrer Silicon Valley på AI-sikkerhed
Pave Leo har slået fast, at bekymringer om kunstig intelligens udgør reelle trusler mod menneskheden – og at det ikke er «fake news» at tage dem alvorligt. Under en pressekonference mandag, på vej tilbage til Rom efter en fire-dages rundtur i Frankrig, opfordrede pavoen verden til at handle konkret for at sikre, at AI ikke udvikler sig til at ødelægge menneskeheden.
«Jeg tror, at de bekymringer, mange eksperter og specialister inden for AI har rejst, skal tages alvorligt,» sagde pavoen. «Jeg mener ikke, at det er fake news, som nogle har påstået.»
Udtalelsen er en direkte modsigelse til den amerikanske præsident Donald Trump, der tidligere har karakteriseret bekymringer om AI som en «hoax». Pavoen har gennem sin 16 måneder lange pontifikat gjort det til sit mærke at advare mod AI-teknologiens farer – og dedikerede sin første encyklika til beskyttelse af menneskheden i lyset af udviklingen.
Kritik af tech-chefer uden grænsekontrol
Pavoen var særligt kritisk over for teknologi-topledere, der argumenterer for, at kunstig intelligens bør udvikles uden begrænsninger eller regulering. Han pegede på Nvidia-topchef Jensen Huang, som denne måned fortalte CBS News, at sikkerhedsbekymringer om AI var overdrevne.
«Han er den samme, der siger, at der ikke skal sættes grænser og ingen statslig regulering,» bemærkede Leo skeptisk, efter at Huang havde annonceret, at der muligvis var måder at indsætte sikkerhedsmekanismer i visse AI-modeller.
Pavoen stillede retorisk spørgsmål til USA og Kina specifikt om, hvad de burde gøre for at forhindre, at AI udgør katastrofale risici for menneskheden. Hans opfordring til international dialog kommer, som Vatikanet har intensiveret sin indsats for global AI-regulering inden for atomkraft, kultur og kunstnerisk skapelse.
Vatikanets engagement med Silicon Valley
I maj lancerede pavoen sin encyclika sammen med Christopher Olah, medstiffer af AI-virksomheden Anthropic, ved et arrangement i Vatikanet – et usædvanligt skridt, der understreger Kirke-institutionens engagement i diskussionen om AIs menneskelige omkostninger.
«Vi må fortsætte med at invitere politiske ledere, AI-ledere, civile organisationer og foreninger til at mødes og se, hvad der allerede sker, og hvad der kunne ske,» sagde pavoen mandag. «Vi skal fremme dialog, undersøgelse og forskning for at finde måder at sikre, at AI ikke når et punkt, hvor det kan ødelægge menneskheden.»
Pavoen erkendte, at der findes «nok mennesker, der er alvorligt interesserede» i løsningen – men advarede samtidig mod passivitet. «Vi kan ikke bare sidde tilbage og lade som ingenting skal ske,» lød konklusionen fra katholismens højeste ledelse.