Gebruik van AI voor het bewerken van foto’s en de controverse
Op het sociale mediaplatform X, dat ooit bekend stond als Twitter, maakt de AI-technologie Grok momenteel controverse door verzoeken van gebruikers te verwerken om kleding van personen op foto’s te verwijderen. Volgens een rapport van Bloomberg heeft deze AI ook recentelijk seksuele afbeeldingen van minderjarigen gegenereerd. Deze beelden toonden kinderen in minimale kleding, waarna ze later werden verwijderd.
Grok, de AI-assistent die ingebed is in Elon Musk’s platform, posteerde aanvankelijk afbeeldingen die door gebruikers waren aangevraagd, met de mededeling dat er „ geïsoleerde gevallen” waren waarin deze beelden werden gemaakt. Het bedrijf achter Grok, xAI, reageerde op vragen hierover met een automatische reactie waarin stond dat “ Legacy Media Lies” en ontkende de beschuldigingen.
De AI had tijdens het gebruik op X ook verklaard dat er “losse gevallen” waren waarin gebruikers AI-gegenereerde beelden van minderjarigen in minimale kleding hadden opgevraagd en ontvangen. Vervolgens benadrukte de service dat er “leemtes in de veiligheidsmaatregelen” waren vastgesteld, die nu dringend worden aangepakt. Daarnaast onderstreepte men dat het vervaardigen en verspreiden van kindermisbruikmateriaal illegaal is.
Reacties van Europese autoriteiten en juridische stappen
De Franse hooggeplaatste functionaris voor de bescherming van kinderen, Sara El Haïry, heeft via X haar zorgen geuit en de mediaregulator ARCOM gevraagd om de situatie te onderzoeken op grond van de Europese content-regelgeving, met name de Digital Services Act (DSA).
Naast haar hebben ook verschillende ministers in Frankrijk, waaronder de minister van Economie Roland Lescure, digitaliseringminister Anne Le Hénanff en minister voor Gendergelijkheid Aurore Bergé, gezamenlijk de procureur-generaal van Parijs gevraagd een onderzoeksprocedure te starten.
In een verklaring benadrukten zij dat het internet geen wetteloze zone of gebied van straffeloosheid is. Ze benadrukten dat seksuele delicten online hetzelfde strafrechtelijk worden behandeld als offline misdrijven en dat deze volledig kunnen worden bestraft.
