En senioranklager fra den britiske anklagemyndighed CPS henviste til en ikkeeksisterende retssag i en sag ved High Court. Det skriver The Guardian.
Fejlen er ny ammunition i debatten om såkaldte AI-hallucinationer – altså når kunstig intelligens finder på oplysninger, der lyder troværdige, men ikke passer. Ifølge avisen stammede henvisningen fra et AI-svar, der dukkede op under en internetsøgning.
Sagen handlede om, hvorvidt en dreng skulle retsforfølges for voldtægt af sin yngre søster. Drengen var 11 år på tidspunktet for det påståede overgreb, og pigen var syv år.
Henviste til sag, der ikke fandtes
Ravinder Dhillon, der repræsenterede Crown Prosecution Service, brugte ifølge retsdokumenter en detaljeret henvisning til en sag med navnet CPS – R v J [2024] EWCA Crim 3529. Den sag viste sig ikke at eksistere.
Advokaterne for drengen udfordrede CPS’ beslutning om at rejse tiltale. De mente, at anklagemyndigheden ikke havde taget hensyn til indlæg fra socialrådgivere, ungdomsmedarbejdere og en retspsykolog.
Dhillon erkendte i oktober, at henvisningen til den ikkeeksisterende sag var en fejl. Hun forklarede, at hun i virkeligheden havde henvist til en helt anden afgørelse, som var ægte og 15 år gammel.
Dommere og ekspert kritiserer forklaringen
To højtstående dommere ved High Court kaldte hendes forklaring for “unsatisfactory”, skriver The Guardian. Brian Flanagan, der er lektor i jura ved Maynooth University i Irland og forsker i dommeres brug af AI, kalder forløbet en “serious failure” over for avisen.
High Court slog samtidig fast, at den opdigtede henvisning ikke fik betydning for udfaldet af drengens forsøg på at få stoppet sagen. Straffesagen er ifølge avisen sat til behandling i ungdomsretten senere på ugen.
Det er ifølge The Guardian kun anden kendte sag, hvor CPS er blevet kædet sammen med ikkeeksisterende juridiske kilder, som sandsynligvis skyldes AI. I februar erkendte myndigheden, at en af dens jurister i en udleveringssag også havde citeret sager, der ikke fandtes.
CPS peger på fejl i internetsøgning
CPS oplyser til The Guardian, at myndigheden har en stram AI-politik, som begrænser brugen, så teknologien ikke bruges til at træffe juridiske beslutninger, og at der skal være menneskelig kontrol af rigtigheden.
En talsperson siger til avisen, at CPS “identified an error had occurred from conducting legal research using the internet”. Ifølge myndigheden blev fejlen rettet, så snart den blev opdaget, og der blev gennemført en intern gennemgang for at undersøge, hvordan det kunne ske, og om andre sager var berørt.
Ifølge The Guardian har en britisk oversigt over AI-relaterede fejl i retssystemet nu registreret 101 tilfælde med bekræftede, mistænkte eller omstridte fejl og falske henvisninger. Barrister Matthew Lee, som står bag oversigten, siger til avisen, at sagerne kan være “tip of the iceberg”, fordi mange afgørelser fra lavere domstole aldrig bliver offentliggjort.