Kunstig intelligens overbelaster Giftlinjen: Advarer mod vildledende AI-råd
Giftlinjen oplever for tiden en hidtil usete belastning – ikke af øgede forgiftninger, men af opkald dirigeret dertil af kunstig intelligens. Højsæsonen for svampeplukning mødes med et nyt problem: AI-værktøjer sender borgere til Giftlinjen med spørgsmål, som ikke nødvendigvis har medicinskt behov for deres ekspertise.
Ifølge TV Syd ringede hele 139 personer til Giftlinjen i en enkelt uge – mange af dem fordi et AI-system havde anbefalet netop det. Ledende overlæge ved Giftlinjen, Anja J. Huusom, forklarer omfanget: »Vi oplever, at flere ringer, fordi en AI (kunstig intelligens, red.) foreslog det. Det gælder ikke kun om svampe, men i kombination med en travl svampesæson, betyder det et stort pres på telefonerne, der i perioder kan gøre det vanskeligt for os at følge med.«
Det kritiske element er ikke blot overbelastningen selv. Pressionen på Giftlinjens telefonlinjer kan få direkte konsekvenser for mennesker i livsfare. Huusom advarer: vildledende svar fra AI risikerer at blokere for opkald om livstruende forgiftninger fra hospitaler, som skal igennem til Giftlinjen.
Når AI selv ikke ved, hvad den anbefaler
Problemet illustrerer en større udfordring med kunstig intelligens i højrisikoscenarier. Store sprogmodeller – som ChatGPT og lignende værktøjer – giver tilsyneladende autoritativ vejledning uden altid at kvalitetssikre deres svar eller erkende usikkerhed. En svampetype-bestemmelse kan være livsfarlig, hvis AI’en får det forkert, men systemet fremstår sikker i sin respons.
Giftlinjen er designet til netop det formål: at træffe hurtige, fagligt begrundede beslutninger i akutte tilfælde. Når telefonerne bliver blokeret af urentabel lede-trafik, svækkes systemets evne til at varetage sin primære opgave.
En advarsel til borgerne
Giftlinjen advarer derfor danskere mod at følge AI-anbefalinger til at ringe. Hvis du har spørgsmål til, om en svamp er spiselig, findes bedre første linjer – eksempelvis lokale naturstudier, pilsedyrkerkredse eller Danmarks Fugle- og Naturklub. Giftlinjen skal være reserveret for faktiske forgiftningsfald og kritisk medicinske vurderinger.
Historien er en påmindelse om, at kunstig intelligens – for alt dens potentiale – kan have utilsigtede konsekvenser, når den vejleder borgere til services uden at vide, hvornår den bør holde sin mund.