X skjerper nå rammene for sin AI-modell Grok etter massiv kritikk for ikke-samtykkebaserte, seksuelle deepfakes. Malaysia og Indonesia har blokkert tjenesten. Samtidig etterforskes X og Musks xAI av myndigheter i Storbritannia, USA og Frankrike.

Dette endrer X nå

• Bildemanipulering stoppes: Grok skal ikke lenger kunne redigere bilder av virkelige personer til å vise dem i avslørende klær som bikinier og undertøy i jurisdiksjoner der dette er ulovlig.
• Tekniske sperrer: Selskapet har implementert tiltak for å hindre slik bilderedigering.
• Gjelder alle: Restriksjonene omfatter alle brukere, også betalende abonnenter.
• Betalingsmur for bildegenerering: Selve bildegenereringen er nå kun tilgjengelig for betalende brukere. X begrunner dette med et ekstra lag av ansvarlighet, men kritikere kaller tiltaket 'fornærmende' og 'ikke effektivt'.

Sørøst-Asia stenger ned – global gransking øker

Malaysia og Indonesia var først ute med å blokkere Grok fullstendig. Myndighetene der viser til misbruk for å generere seksuelt eksplisitt, ikke-samtykkebasert innhold.

Samtidig tiltar presset internasjonalt: Grok møter økende gransking i EU, Storbritannia, India og Frankrike.

Etterforskninger i flere land

• Storbritannia: Medieregulatoren Ofcom har åpnet formell etterforskning av om X har brutt britisk lov knyttet til de seksuelle bildene.
• USA (California): Justisminister Rob Bonta etterforsker Musks xAI for det som ser ut til å være storstilt produksjon av deepfake, ikke-samtykkebaserte intime bilder.
• Frankrike: Myndighetene har åpnet etterforskning av spredning av seksuelt eksplisitt deepfake-innhold generert av Grok.

Rob Bonta: storstilt produksjon av deepfake ikke-samtykkebaserte intime bilder.

Politisk reaksjon – og Musk svarer

Storbritannias statsminister Keir Starmer advarte om at X kan miste 'retten til selvregulering' som følge av skandalene, men ønsket senere velkommen rapporter om at X tar grep. Flere britiske parlamentsmedlemmer forlot plattformen i kjølvannet av opprøret.

Elon Musk forsvarer X og sier kritikerne bare vil undertrykke ytringsfriheten. Han publiserte to AI-genererte bilder av Starmer i bikini som svar på kritikken.

Med NSFW aktivert er Grok ment å tillate nakenhet av overkroppen til imaginære voksne mennesker (ikke virkelige).

Dette er de facto-standarden i Amerika. Dette vil variere i andre regioner i henhold til lovene fra land til land.

Kritikk og ubesvarte spørsmål

Forsker Riana Pfefferkorn er overrasket over at det tok så lang tid å innføre sikkerhetstiltakene, og mener redigeringsfunksjonene burde vært fjernet straks misbruket begynte.

Det er fortsatt uklart hvordan X vil håndheve de nye reglene i praksis: Hvordan skal AI-modellen gjenkjenne om et bilde er av en virkelig person? Og hvilke tiltak følger når brukere bryter retningslinjene?

Skadene – og det større bildet

Saken peker på et bredere problem med AI-genererte deepfakes. California-justisministeren påpeker at materialet – som viser kvinner og barn nakne og i seksuelt eksplisitte situasjoner – er brukt til trakassering på nettet. Flere ofre forteller at de følte seg dehumanisert etter at Grok ble brukt til å digitalt fjerne klærne deres.

Hovedpoenget: X strammer inn, men striden om samtykke, regulering og ansvar fortsetter. Myndigheter i flere land etterforsker, og utfallet kan avgjøre hvor langt plattformer må gå for å hindre misbruk av AI – uten å kneble lovlig ytring.