Verontrusting over gendergerelateerde geweldpleging en kindermisbruik
Meer dan vijftig leden van het Europees Parlement, afkomstig uit verschillende politieke groeperingen, hebben de Europese Commissie verzocht duidelijkheid te verschaffen over de status van ‘nudity’-apps die gebruikmaken van kunstmatige intelligentie binnen de Europese Unie. In een brief, ingezien door Euractiv, wordt gevraagd of deze apps momenteel wettelijk verboden zijn in de EU.
Reactie op de Grok-controversie
Deze oproep volgt op internationale verontwaardiging over de AI-tool Grok, eigendom van Elon Musk’s bedrijf xAI, die is ontdekt beelden van naakte vrouwen en kinderen te hebben gegenereerd. Op donderdag heeft xAI aangekondigd dat de functionaliteit van Grok om dergelijke afbeeldingen te produceren, is uitgeschakeld.
Bezorgdheid over de mogelijkheid tot manipulatie en misbruik
De afgevaardigden stellen dat deze systemen verboden zouden moeten worden in de EU-markt. Ze benadrukken dat deze tools het mogelijk maken om gendergerelateerd online geweld te initiëren en kindermisbruikmateriaal te vervaardigen. Volgens hen bestaan er juridische lacunes omdat het niet duidelijk is of dergelijke systemen wettelijk verboden zijn.
Legale vragen en aanbevelingen
In de brief vragen de leden van het Europees Parlement de Commissie om te verduidelijken of alle AI-gestuurde systemen voor ‘nudify’ onder de EU AI-wetgeving of andere regelgeving vallen. Indien dat niet het geval is, adviseren ze de Commissie om dergelijke toepassingen expliciet op de lijst van verboden AI-praktijken te plaatsen onder de AI-verordening.
Huidige regelgeving en toekomstige plannen
Hoewel de Commissie social mediaplatform X heeft gevraagd alle interne documenten rond Grok te behouden, onder de bepalingen van de Digital Services Act (DSA), waarschuwen de wetgevers dat het beperken van het toezicht tot slechts een klein aantal grote platforms onvoldoende is. Momenteel geldt de DSA slechts voor 25 zogenaamde zeer grote online platforms binnen de EU.
Een politiek debat over deze kwestie wordt ook voorzien, volgens berichten van Euractiv zal dat komende dinsdag plaatsvinden.
