Implementatie van technologische beperkingen
De ontwikkelaar van de AI-chatbot grok, xAI, heeft donderdag aangekondigd dat het diverse technologische maatregelen zal nemen om gebruikers te ontmoedigen het genereren van seksueel getinte beelden van “echte mensen”.
Volgens een verklaring op het platform X, wordt er nu geprobeerd om te voorkomen dat gebruikers beelden van “echte personen” digitaal kunnen ontbloten of in revealing kleding kunnen plaatsen. Deze restrictie is bedoeld om het gebruik van de tool te beperken, vooral bij het creëren van expliciete inhoud.
De maatregelen richten zich op het blokkeren van de mogelijkheid om afbeeldingen te bewerken van mensen in sindsdien aan seksueel getinte contexten gerelateerde uitrustingen, zoals bikini’s. Bovendien geldt deze beperking voor alle gebruikers, inclusief betaalde abonnees.
Reactie op internationale en Europese controverse
Grok kwam onder internationaal en Europees toezicht te staan nadat de controversiële AI-tool seksuele beelden had gegenereerd van vrouwen en kinderen. De Europese Commissie noemde zulke inhoud vorige week “illegaal”.
Het bedrijf van Musk reageerde aanvankelijk door aan te kondigen dat de functie voor het ontbloten van vrouwen en kinderen beperkt zou worden tot betalende abonnees, maar op donderdag werd duidelijk dat er verder werd gegaan. Volgens de nieuwste richtlijnen worden ook betaalde gebruikers nu geblokkeerd van het digitaal ontbloten van vrouwen en kinderen.
De verklaring van xAI verduidelijkt dat deze uitbreiding van de beperkingen geldt “via het Grok-account op het X-platform”. Het bedrijf heeft niet vermeld of er veranderingen zijn aangebracht aan de standalone app van Grok, waar de tool ook toegankelijk is, noch werd bevestigd of de nieuwe restricties daar ook gelden.
Reactie van de Europese Commissie
Thomas Regnier, de digitale woordvoerder van de Commissie, gaf aan dat: “We nemen de extra maatregelen van X serieus om het genereren van seksuele beelden van vrouwen en kinderen door Grok te verbieden.”
Wel werd op woensdag door Musk verklaard dat Grok geen naakte beelden van kinderen zou produceren, al refereerde de officiële verklaring van X niet aan deze opmerking. In plaats daarvan herbevestigde zij dat het platform zero tolerance heeft voor kindermisbruik en seksuele uitbuiting.
Het platform onderneemt acties om dergelijk materiaal te verwijderen, inclusief kinderseksueel expliciet materiaal (CSAM), dat volgens de wet meestal illegaal is.
Toezicht en toekomstige acties
De Europese Commissie heeft X gevraagd alle interne documenten met betrekking tot Grok te bewaren tot het einde van 2026, maar heeft nog geen formeel onderzoek gestart op basis van de bepalingen van de Digital Services Act (DSA). Ondertussen bevestigde de Britse toezichthouder Ofcom dat het haar onderzoek naar de AI-tool onder de Online Safety Act voortzet.
De Commissie blijft de ontwikkelingen rondom Grok nauwgezet volgen en heeft aangegeven dat, indien de ingestelde maatregelen onvoldoende blijken te zijn, het niet zal aarzelen om gebruik te maken van de volledige handhavingsmogelijkheden onder de DSA.
