X strammer inn etter en storm av kritikk. Elon Musks plattform begrenser nå bilderedigeringsfunksjonen i Grok til betalende brukere med verifisert betalingsinformasjon, etter at verktøyet ble brukt til å lage seksualiserte deepfakes uten samtykke. Flere regjeringer varsler undersøkelser og mulig rettslig oppfølging.

Hva har skjedd?

Bilderedigeringsfunksjonen i AI-verktøyet Grok var tidligere tilgjengelig for alle brukere på X. Etter sterk kritikk er funksjonen nå begrenset til betalende abonnenter med verifiserte betalingsdetaljer. Begrensningen kommer etter at verktøyet ble brukt til å digitalt fjerne klær fra opplastede bilder, og til å lage upassende bilder av både kvinner og barn.

Kraftige reaksjoner fra myndigheter

Storbritannias statsminister Keir Starmer kalte situasjonen «avskyelig» og «motbydelig», og ga reguleringsmyndigheten Ofcom full støtte til å bruke alle tilgjengelige maktmidler – inkludert en effektiv utestengelse av X.

• EU, Frankrike, India og Malaysia har igangsatt undersøkelser og truet med rettslige skritt.

Kritikken mot grepet fra X

Flere eksperter og berørte brukere mener X har reagert for sent – og for svakt.

«Musk har kastet lekene ut av barnevognen i protest mot å bli holdt ansvarlig for flodbølgen av overgrep. I stedet for å ta ansvarlige skritt for å sikre at Grok ikke kunne brukes til krenkende formål, har han trukket tilgangen for de aller fleste brukere.» – Professor Clare McGlynn

«Grok må redesignes fullstendig og ha innebygde etiske sikkerhetsmekanismer for å forhindre at dette noensinne skjer igjen.» – Dr. Daisy Dixon, som opplevde at brukere «kledde av» henne digitalt

«Å sitte og vente på at usikre produkter blir misbrukt før man tar grep er uakseptabelt.» – Hannah Swirsky, Internet Watch Foundation

Omfanget: tallene som skaper uro

Deepfake-analytiker Genevieve Oh dokumenterte en belastende produksjonstakt: rundt 6 700 seksuelt eksplisitte bilder i timen i løpet av et døgn mellom 5. og 6. januar. IWF sier deres analytikere fant «kriminelle bilder» av jenter mellom 11 og 13 år som «så ut til å være laget» med Grok.

Hva betyr endringen for brukerne?

X opplyser at bare betalende abonnenter med verifisert betalingsinformasjon kan generere og redigere bilder med Grok. Endringen ble ønsket velkommen av enkelte berørte, men omtales som et «plaster på såret» og ikke en varig løsning.

• Funksjonen var tidligere åpen for alle brukere.
• Begrensningen retter seg mot å redusere misbruk, men kritikerne mener selve verktøyet må redesignes.

Forretningspress midt i stormen

Samtidig med kontroversen annonserte Musks AI-selskap xAI en kapitalinnhenting på 20 milliarder dollar. Det setter selskapet i en komplisert posisjon mellom økonomisk vekst og etisk ansvar, og illustrerer bredere utfordringer i AI-bransjen med å balansere innovasjon mot misbruk.

Saken reiser grunnleggende spørsmål for hele bransjen: Hvordan sikre at kraftige verktøy ikke utnyttes til overgrep? Myndighetenes undersøkelser fortsetter, og presset på X og Grok for robuste sikkerhetsmekanismer og tydelig ansvar vil trolig øke i tiden fremover.