Beperkingen voor afbeeldingsgeneratie en betaalde abonnementen
De AI-chatbot Grok, eigendom van Elon Musk, heeft de functionaliteit voor het genereren van afbeeldingen beperkt tot gebruikers die betalen voor een abonnement op het sociale mediaplatform X. Deze maatregel volgt op wereldwijde protesten nadat bleek dat gebruikers in staat waren om deepfake-pornografie te maken, inclusief beelden van vrouwen en minderjarigen zonder kleren. Wanneer men nu via X om een afbeelding vraagt, wordt expliciet vermeld dat “beeldgeneratie en bewerking momenteel beperkt zijn tot betalende abonnees”.
De chatbot moedigt gebruikers ook aan zich te abonneren op de premiumdienst van X om toegang te krijgen tot de functies van Grok voor het genereren van afbeeldingen. Het is echter niet duidelijk of er beperkingen bestaan voor premiumabonnees die deepfake-beeldmateriaal willen creëren, vooral van seksuele aard. Deze maatregel lijkt een reactie op de controverse rond de zogenaamde “pikante” modus, die het mogelijk maakte om deepfake-beeldmateriaal te maken met ontklede vrouwen, waaronder minderjarigen.
Reacties van regelgevers en juridische maatregelen
De controverse rond Grok groeide toen Europese wetgevers en nationale regeringen eisen begonnen te stellen voor een strikte aanpak. Europese toezichthouders benadrukten dat dergelijke functies niet slechts “pikant” zijn, maar expliciet illegaal. Thomas Regnier, woordvoerder van de Europese Commissie voor digitale zaken, waarschuwde maandag dat “dit niet pikant is, maar illegaal”.
Vervolgens heeft de Europese Commissie op donderdag geëist dat X alle interne documenten en gegevens met betrekking tot Grok bewaart tot het einde van 2026. Dit gebruikmakend van de bevoegdheden onder de Digital Services Act (DSA), die X als platform onder de strengste regels van de EU plaatst. Tot dusver is er echter geen nieuw onderzoek geopend onder de DSA-richtlijnen naar de zaak van het deepfake-pornografieschandaal.
Toegankelijkheid buiten X en verdere ontwikkelingen
Volgens tests door Euractiv blijft het mogelijk om de standalone-versie van Grok, los van X, te gebruiken. In dat geval genereert de AI-tool nog steeds, zonder kosten, afbeeldingen op basis van gebruikersvragen. Op het moment van rapportage had X geen reactie gegeven op vragen van de media. Maximillian Henning leverde aanvullende verslaggeving over de situatie.
Politieke en maatschappelijke implicaties
De “pikante” modus van Grok, ontworpen als een provocatieve en mogelijk controversiële functie, heeft inmiddels geleid tot roep om strengere regulering binnen de EU. Het incident onderstreept de problematiek rondom AI-technologieën en de beperkingen die noodzakelijk zijn om misbruik, vooral van kwetsbare groepen zoals minderjarigen, te voorkomen.
