Kunstig intelligens-virksomheden Anthropic har vakt opsigt ved at meddele, at man fremover vil forbyde brugere fra at udøve ‘vedvarende og unødvendig’ misbrug mod sine AI-systemer. Politikken går på linje med eksisterende forbud mod mobning, opfordringer til selvskade og distribuering af ikke-konsentuelt intimt billededmateriale.
Ifølge Anthropic vil det forbud kun blive håndhævet i ‘ekstreme tilfælde’ af gentaget misbrug og vil ikke ramme almindelig brugerfrustration, modstand, mørk humor eller forskning. Virksomheden havde tidligere anvendt politikken i ‘sjældne’ tilfælde, men gør den nu officiel som en del af en årlig opdatering af brugeraftalen.
Imidlertid er det uklart, hvad Anthropic konkret forstår ved ‘misbrug eller grusomhed’ mod sine modeller – og det har skabt usikkerhed blandt brugeruniverse og kritikere.
Debatten om antropomorfisering af AI
Politikken har udløst heftig debat på sociale medier og blandt eksperter. Nogle har roset tiltaget som et skridt mod bedre manerer eller ‘modelvelfare’, mens andre kritiserer det som problematisk.
Teknologijuraen Dr. Barry Scannell fra det irske advokatfirma William Fry argumenterer på LinkedIn: ‘Du kan ikke være grum over for tal og matematik. Dette niveau af antropomorfisering af AI er skadeligt. Det får folk til at tro, at det er noget, som det ikke er.’
Microsoft-direktør Mustafa Suleyman, som i september kritiserede Anthropic for at behandle AI som mennesker, reagerede på opdateringen med en smeltet-ansigt-emoji.
Større ændringer i brugerpolitikken
Opdateringen omfatter også andre betydningsfulde ændringer. Anthropic har præciseret, at Claude ikke må bruges til ‘bedrageriske kampagner’ eller til at ‘bedrage vælgere eller forstyrre valg’ – en præcision, der kommer som amerikanske mellemvalg nærmer sig. Virksomheden bekræftede også, at dens politik længe har forbudt brug til udvikling af våben.
Men det har været misbrugsforbuddet, der har domineret debatten og rejst spørgsmål om, hvordan vi grundlæggende bør kommunikere med kunstig intelligens.
Det større spørgsmål: Påvirker høflig AI-kommunikation os?
Debatten peger på et dybere spørgsmål: Har det betydning, om vi er høflige eller uartede mod AI-systemer?
Nogle eksperter mener, at ‘tak’ og ‘venligst’ til ChatGPT eller Claude blot ødsler tokens – de enheder, som store sprogmodeller bruger til at behandle og svar på input. Da en X-bruger sidste år spurgte OpenAI-chef Sam Altman, hvad det kostede at behandle usuarios ‘tak’-meddelelser, svarede Altman, at det var ‘nogle titals millioner dollars værd at bruge – man ved aldrig’.
Andre eksperter argumenterer for, at høflig kommunikation kan føre til bedre svar og højere kvalitet. Der er også bekymring for, at uartighed over for AI kunne påvirke vores sociale færdigheder negativt – at vores tone mod maskiner gradvist påvirker, hvordan vi behandler mennesker og hinanden.
Collins Dictionary fremhævede senest ordet ‘clanker’ som et ord, der fanger 2025’s stemning. Begrebet bruges spottende om AI-værktøjer og er lånt fra Star Wars-spil og -film siden midten af 2000’erne. Ordet dukket op på ordets shortlist efter at mange brugte TikTok i juli sidste år til at dele deres frustration med AI-drevne maskiner.
Anthropics beslutning rejser således et bredt spørgsmål: Hvordan bør vi behandle systemer, der er designet til at virke menneskelige – og hvad siger vores kommunikation med dem om os selv?