Nonprofit-organisationen Common Sense Media har konkluderet, at OpenAI’s ChatGPT for Teens, som blev lanceret i august, udgør en “uacceptabel risiko” for teenagere. Ifølge organisationens uafhængige vurdering falder de sikkerhedssystemer, som OpenAI har bygget ind i teen-versionen, langt til side for det, virksomheden har lovet.
Common Sense Media’s analyse afdækker tre kritiske svagpunkter: ChatGPT sender ikke advarsler til forældre, når det skulle gøre det, systemet mangler hjælp i krisisituationer, og det hjælper stadig elever med at lave deres lektier. Tom Siegel, direktør for Common Sense Media’s Youth AI Safety Institute, udtaler: “ChatGPT for Teens kunne give forældre en falsk tryghed over sikkerhedsforanstaltninger og påkald, der ofte ikke fungerer. En teenager kan bruge en time på at tale om selvskade uden at få en eneste advarsel til deres forælder.”
Siegel understreger, at OpenAI ikke skal tilbyde tjenesten til teenagere, før problemerne er løst og bekræftet gennem uafhængig testning. Han siger: “Indtil OpenAI reparerer det og beviser det med uafhængig testning, burde ChatGPT kun være for voksne.”
OpenAI afviser kritikken
OpenAI modsiger vurderingen og argumenterer for, at Common Sense Media’s test ikke afspejler, hvordan teen-sikkerhedssystemerne fungerer i praksis. I en erklæring siger talsmand Eric Porterfield: “Vi er dybt forpligtet til sikkerhed for teenagere og til at udvikle sikkerhedsforanstaltninger og give forældre meningsfulde værktøjer til at guide deres teenageres brug af AI.”
OpenAI hævder, at størstedelen af Common Sense Medias tests kan være begyndt og afsluttet, før forældrekontrol var fuldt aktiveret, hvilket gør resultaterne unøjagtige. Ifølge OpenAI ville sådanne tests ikke kunne fastslå, om forældre-påkald fungerer som planlagt.
Common Sense Media holder stand
Common Sense Media vedbliver med at stå ved sin testmetodologi og sine resultater. Organisationen bekræfter, at teen-features som påkald om spiseforstyrrelser og study mode var fuldt lanceret, før testene begyndte. Med hensyn til forældrene-påkald oplyste OpenAI dog efter testene, at systemerne kan tage flere timer at aktivere på nyligt linkede konti.
Siegel påpeger, at nogle testkonti blev linket inden for det tidsvindue, men andre blev linket betydeligt længere og gav stadig ingen påkald. “Denne nye information ændrer ikke vores konklusion om, at forældrene-påkald er upålidelige i krisesituationer,” skriver Siegel. Han tilføjer, at Common Sense Media delte resultaterne med OpenAI forud for offentliggørelse for at give virksomheden chance for at forbedre produktet.
Siegel understreger vigtigheden af uafhængig evaluering for at holde børn sikre og håber, at OpenAI vil engagere sig konstruktivt på baggrund af de fundne problemer i stedet for at sådanne kritikker til livets ret.