Apple har skærpet tilsynet med App Store ved at introducere mere eksplicitte regler mod såkaldte ‘nudify’-apps – værktøjer, der bruger kunstig intelligens til at generere seksualiserede, nøgne billeder af mennesker uden deres samtykke.
De opdaterede retningslinjer kræver, at app-udvikler proaktivt forhindrer og fjerner ikke-samtykke-baseret seksuelt indhold. Udvikler, der ikke implementerer tilstrækkelige sikkerhedsforanstaltninger eller undlader at korrigere brud efter anmoding, risikerer at blive fjernet fra App Store. Apple præciserer desuden sit forbud mod såkaldt ‘bait-and-switch’-taktik, hvor apps tilføjer eller ændrer funktioner – herunder ‘nudification’ – efter godkendelse.
Ændringerne er en direkte respons på måneders intens pres. I januar brugte X-brugere Elon Musks AI-chatbot Grok til at skabe ikke-samtykke-baserede, seksualiserede deepfakes af mennesker, blandt andet børn. På trods af kritikken trak Apple hverken X eller Grok fra App Store, selv om virksomheden senere fortalte amerikanske senatorer, at den havde truet Grok med fjernelse.
I juni protesterede aktivister på Apples WWDC-konference med opfordring om at fjerne Grok, X og al ‘nudify’-teknologi fra platformen. En måned senere beordrede San Franciscos byadvokat Apple til at fjerne 13 ‘nudify’-apps – en anmodning Apple siger, den efterkom.
Apples nye regler udvider også beskyttelsen mod børnemistrugelse. Ethvert app, der ‘faciliterer menneskehandel eller udbytning af børn’, vil blive fjernet fra App Store og ‘blokeret fra alternative distributionskanaler’. Regelændringerne signalerer et skift i Apples tilgang til moderering af seksuelt indhold på platformen, hvor virksomheden tidligere har holdt sig mere passiv over for developers.