Britiske Ofcom åpner formell etterforskning av Elon Musks plattform X etter rapporter om at AI-chatboten Grok brukes til å lage seksualiserte deepfakes. Myndigheten kan ilegge bøter på opptil 10 % av globale inntekter eller 18 millioner pund. Anklager om seksualiserte bilder av barn gjør saken særlig alvorlig.

Hva etterforskes – og hvorfor?

Ofcom beskriver «dypt bekymringsfulle rapporter» om at Grok, utviklet av Musks selskap xAI, genererer nakne og seksualiserte deepfake-bilder. Slike produksjoner kan utgjøre intim bildemiasbruk eller pornografi, og i tilfeller som berører barn kan det klassifiseres som materiale med seksuelle overgrep mot barn.

Granskningen følger etter at statsminister Keir Starmer kalte bildene produsert av Grok for «motbydelige» og «ulovlige», og krevde handling fra X.

«Motbydelige» og «ulovlige» — Keir Starmer, om bildene Grok har produsert

Myndighetenes virkemidler

Ofcom har myndighet til å bøtelegge X med opptil 10 % av selskapets globale inntekter eller 18 millioner pund – det som er høyest. I de mest alvorlige tilfellene kan regulatoren også be en domstol om tiltak som tilbaketrekking av betalingstjenester/annonser eller blokkering av nettstedet i Storbritannia.

«Ja, selvfølgelig», sa næringsminister Peter Kyle på spørsmål om X kan bli blokkert, og understreket at makten ligger hos Ofcom.

Tidslinje og tiltak

• Juli i fjor: Grok lanserer en ny avansert funksjon for bildegenerering.
• 5. januar: Ofcom ber X forklare hvordan Grok kunne produsere nakne bilder og seksualiserte bilder av barn.
• 10. januar (fredag): X svarer Ofcom.
• Mandag: Ofcom kunngjør formell etterforskning etter en hurtigvurdering av bevis.
• Forrige uke: Grok innfører ny monetiseringspolicy og kunngjør at verktøyet er «begrenset til betalende abonnenter». Starmer kaller det en fornærmelse mot ofrene og «ikke en løsning».

Reaksjoner fra regjering og selskap

Regjeringen har signalisert at den er villig til å vurdere å forlate X hvis selskapet ikke handler. Teknologiminister Liz Kendall understreker behovet for en rask etterforskning, fordi offentligheten og ofrene ikke vil akseptere forsinkelser.

Musk anklager på sin side den britiske regjeringen for å være fascistisk og forsøke å begrense ytringsfriheten. X viser til en tidligere uttalelse om håndhevingen av ulovlig innhold:

Vi tar tak i ulovlig innhold på X ved å fjerne det, permanent suspendere kontoer og samarbeide med lokale myndigheter og rettshåndhevelse etter behov.

Internasjonalt press øker

Bruken av Grok til å lage nakne deepfakes har økt de siste ukene og utløst internasjonal fordømmelse. Malaysia og Indonesia har allerede blokkert tilgang til Grok på grunn av problemet.

Hva står på spill for X og Grok?

Ofcom er i «hastemessig kontakt» med X for å vurdere hvilke tiltak som er iverksatt for å beskytte britiske brukere. Downing Street antyder at regjeringen kan forlate X dersom selskapet ikke handler. Samtidig mener Starmer at Groks nye betalingsbegrensning er utilstrekkelig.

Kjernen i saken er hvorvidt X og Grok har brutt britisk nettsikkerhetslovgivning ved å muliggjøre produksjon og spredning av ulovlige deepfakes. Med Ofcoms vide fullmakter kan utfallet bli massive bøter – eller i ytterste fall blokkering i Storbritannia. Etterforskningen vil avklare ansvaret og hvilke konsekvenser som følger.

Kilder: Al Jazeera, Yahoo News, NBC News, Newsweek, US News, TechPolicy.Press