Vad ligger bakom förbudet mot Grok?

AI-programmet Grok, som utvecklats av sajten X, har haft förmågan att skapa både text och bilder baserat på användares instruktioner. Denna kapacitet har dock visat sig kunna missbrukas för att generera sexuella bilder av verkliga individer. Ett uppmärksammat fall involverade en bild av politikern Ebba Busch, där hennes klädsel manipulerats till en bikini. Denna typ av bildgenerering har väckt starka reaktioner och lett till att länder som Indonesien och Malaysia blockerat Grok.

Hur reagerar EU och Sverige?

EU har nyligen gett sitt godkännande till ett nytt förbud som riktar sig mot AI-system som genererar skadligt material. Lagen förbjuder AI-system som skapar bilder, videor eller ljud som framställer sexuella övergrepp mot barn, eller som utan samtycke avbildar en identifierbar persons intima kroppsdelar eller sexuellt explicita aktiviteter. Företag har fram till december 2026 på sig att anpassa sina system.

Socialminister Jakob Forssmed (KD) har uttryckt sin oro över hur X:s AI-tjänst Grok använts för att skapa sexualiserade bilder utan samtycke. Han menar att techbolagen utvecklar tjänster som exploaterar människor och att plattformen X behöver regleras. EU-kommissionen har också riktat skarp kritik mot X, och kallat de nya funktionerna för ”vidriga” och något som ”inte har någon plats i Europa”.

– Ingen ska behöva få sitt ansikte placerat på sexuella bilder eller få sin kropp manipulerad av AI mot sin vilja. Nu tar EU ett viktigt steg för att stoppa denna typ av övergrepp, säger EU-parlamentariker Alice Bah Kuhnke (Miljöpartiet) i ett pressmeddelande.

Vad innebär förbudet för framtiden?

Genom att förbjuda Grok att generera sexuella bilder av verkliga personer tar sajten X ett steg mot att skydda individer från oönskad och potentiellt skadlig bildmanipulation. Beslutet syftar till att återställa förtroendet för företagets AI-teknologi och visa ett engagemang för etisk användning av artificiell intelligens. Även om lagstiftningen kring AI fortfarande utvecklas, följer förbudet de principer som framhålls av EU, där det betonas att samma lagar som gäller för sexuella foton även ska gälla för AI-genererade sexuella bilder. Om sådana bilder föreställer barn kan det vara olagligt att skapa, spara och sprida dem.