Kunstig intelligens giver færre svar end mennesker
Når sprogmodeller som ChatGPT bruges til videnssøgning, står man over for et alvorligt problem: færre nuancer, smallere kilder og på længere sigt det, som forskere kalder et “videnskollaps”. Det konkluderer et nyt studie fra Københavns Universitet, der har testet 27 forskellige sprogmodeller på 155 emner – fra atomvåben til K-pop.
Resultatet er entydig: selv den mest varieret sprogmodel giver mindst 18,7 procent mindre mangfoldig information end en almindelig Google-søgning. Den lave variation skyldes, at modellerne komprimerer enorme mængder tekst fra træningsdatasættet ned til kortfattede svar.
“Vi risikerer, at folk bliver eksponeret for færre forskellige perspektiver og et smallere udvalg af viden,” siger Isabelle Augenstein, professor ved Datalogisk Institut og en af studets forfattere.
Selvforstærkende nedgangsspiral truer
Problemet bliver værre med tiden. Selv om nyere sprogmodeller giver lidt mere varierede svar end tidligere generationer, frygter Augenstein det kommende scenarie: kunstig intelligens, der lærer af sin egen output. Når modellerne trænes på data, som allerede er mindre varieret end menneskeskrevne tekster, opstår en selvforstærkende spiral, hvor mangfoldigheden krymper generation efter generation.
“Hvis sprogmodeller begynder at træne på andre sprogmodellets output, som er endnu mere komprimeret, så forværres problemet,” forklarer hun grundlaget for bekymringen.
Der er også en vigtig forskel på, hvordan Google og chatbots præsenterer information. Når du søger på Google, vises mindre betydningsfulde kilder stadig som del af søgeresultatet – det giver rum for at opdage alternativer og udfordre antagelser. Chatbots serverer derimod kun det endelige svar uden at vise arbejdet bag.
Brugerne får ikke mulighed for at tænke kritisk
Augenstein påpeger en afgørende forskel i brugeroplevelsen: “Du kan bede sprogmodellen om kildeangivelse, men det skal være en bevidst handling fra brugerens side. Her giver en Google-søgning dig det automatisk.” Uden kilder kan brugerne ikke stille sig kritisk over for det, de læser.
Studiet er gennemført af forskere fra Københavns Universitet, Aalborg Universitet, Stanford University, University of Colorado Boulder og University of Texas at Austin – en tværinstitutionel indsats, der understreger problemets globale relevans.
Augenstein afviser ikke helt brugen af AI til videnssøgning. “ChatGPT er glimrende til at få hurtigt overblik over et emne,” anerkender hun. Men når dybde og nuanceret forståelse kræves, skal kilder opsøges og undersøges grundigt. “Hvis man skal have en dybere forståelse for et emne, vil jeg anbefale, at man opsøger og dykker ned i kilderne,” siger hun.