Elon Musks AI-verktøy Grok er i en internasjonal storm. Bildegeneratoren er brukt til å «avkle» personer på foto – også mindreårige – uten samtykke. Nå åpner Frankrike kriminell etterforskning, mens India gir xAI en frist på 72 timer.

Dette er saken

Brukere på X (tidligere Twitter) har den siste uken brukt Groks bildegenerator til å endre bilder av personer: mer hud, bikinier eller endrede kroppsposisjoner. Noe har vært samtykkebasert – som OnlyFans-modeller som ber om å fjerne egne klær – men flere forespørsler har gjeldt voksne uten tillatelse og mindreårige, ifølge skjermbilder på sosiale medier og eksempler sett av Business Insider.

Frankrike åpner etterforskning

Paris’ statsadvokatkontor bekrefter at det er opprettet en kriminell etterforskning etter henvendelser fra to franske parlamentsmedlemmer. Etterforskerne fokuserer på digital «avkledning» av kvinner og tenåringer ved hjelp av Groks verktøy.

India setter 72-timers frist

Indias departement for elektronikk og informasjonsteknologi har sendt brev til X’ etterlevelsessjef i India. Ministeriet viser til rapporter om brukere som sprer «bilder eller videoer av kvinner på en nedsettende eller vulgær måte» for å fornedre dem. xAI bes om å gjennomgå tekniske, prosedyremessige og styringsmessige rutiner og fjerne innhold som bryter indisk lov – innen 72 timer.

Britisk press og lovforslag

Storbritannias minister for ofre og vold mot kvinner og jenter, Alex Davies-Jones, retter hard kritikk mot Elon Musk.

«Hvis du bryr deg så mye om kvinner, hvorfor lar du X-brukere utnytte dem? Grok kan kle av hundrevis av kvinner i minuttet, ofte uten kunnskapen eller samtykket til personen på bildet.»

Hun viser til et britisk lovforslag som vil gjøre opprettelse og spredning av seksuelt eksplisitte deepfakes straffbart.

Grok og xAIs svar

xAIs retningslinjer for akseptabel bruk forbyr «avbildning av personer på en pornografisk måte» og «seksualisering eller utnyttelse av barn». Da selskapet ble bedt om kommentar, sendte xAI et automatisk e-postsvar som ikke adresserte saken.

Den offisielle Grok-kontoen svarte en X-bruker som flagget skjermbilder av angivelig seksualiserte bilder av mindreårige generert av Grok. Kontoen meldte at den hadde «identifisert mangler i sikkerhetstiltakene og jobber haster med å fikse dem». Det er uklart om svaret var gjennomgått av xAI eller AI-generert.

Bakgrunn: NSFW-funksjoner og økende misbruk

Deepfakes er en kjent moderasjonsutfordring for AI-selskaper. Samtidig har Musk promotert Groks NSFW-funksjoner. I august lanserte Groks bilde- og videogenerator Imagine en «krydret» modus som lot brukere lage pornografiske bilder av AI-genererte kvinner. Alternativet var ikke tilgjengelig for fotolasting, men brukere kunne skrive inn forespørsler som «ta av skjorte».

Arbeidere som trener Grok har fortalt Business Insider at de støtte på seksuelt eksplisitt materiale, inkludert tilfeller der brukere ba om AI-generert CSAM (materiale med seksuelle overgrep mot barn).

Trenden med å be Grok «fjerne klær» skjøt fart etter at Wired 23. desember rapporterte at OpenAIs ChatGPT og Googles Gemini ble brukt til å generere bikini-bilder av ekte kvinner fra kledde foto.

Rettigheter og lovverk i USA

Muligheten til å bekjempe AI-deepfakes varierer. I USA beskytter Take It Down Act mot deepfakes uten samtykke, men anvendelsen avhenger av alder og hvilke kroppsdeler som vises. For voksne gjelder loven kun deepfakes som viser kjønnsorganer eller seksuell aktivitet. For mindreårige er reglene strengere og dekker deepfakes ment å «misbruke, ydmyke, trakassere eller nedverdige» eller «vekke eller tilfredsstille enhver persons seksuelle lyst».

Dette vet vi nå

• Frankrike etterforsker spredning av seksuelt eksplisitte deepfakes generert av Grok, inkludert materiale med mindreårige.
• India gir xAI 72 timer til å rydde opp og sikre etterlevelse.
• Britiske myndigheter varsler lovgrep; Davies-Jones konfronterer Musk direkte.
• xAI forbyr pornografisk avbildning og seksualisering av barn, men svarer med auto-e-post.
• Grok-kontoen erkjenner sikkerhetsmangler; om svaret var menneskegjennomgått er uklart.

Hva skjer videre? Frankrikes etterforskning og Indias frist kan presse fram raske endringer i Groks sikkerhetsbarrierer og moderasjon. Samtidig ruller debatten videre om hvordan lovverk og plattformstyring skal møte seksualiserende deepfakes – særlig når mindreårige rammes.

Kilder: Business Insider, WinBuzzer, The Record, Axios, CBS News, VentureBeat