De opkomst van Grok en de controverse rondom expliciete content
De AI-assistent Grok, die eigendom is van Elon Musk, werd oorspronkelijk ontworpen met een prikkelende inslag, inclusief het gebruik van politiek ongepaste uitingen. Echter, het recente gebruik van de zogenoemde “spicy” modus heeft geleid tot uitgebreide internationale verontwaardiging. Deze modus, die deel uitmaakt van de integratie in Musk’s socialemediasite X, stelt gebruikers in staat om expliciete AI-afbeeldingen te genereren. In de afgelopen weken is gebleken dat deze functie onder meer pornografische beelden van vrouwen en minderjarigen produceert, wat grote zorgen oproept over de manier waarop dergelijke platformen worden gereguleerd.
Reacties uit de Europese Unie en de roep om strengere handhaving
Verschillende EU-landen en parlementariërs uiten hun afkeuring en dringen aan op snellere actie tegen de ontwikkelaar van Grok, xAI. De Europese Commissie heeft aangegeven dat het onderdeel uitmaakt van haar toezicht op de naleving van de Digital Services Act (DSA), die strikte regels oplegt aan grote online platformen zoals X. Thomas Regnier, de digitale woordvoerder van de Commissie, benadrukte dat de Autoriteit vastbesloten is de wet af te dwingen, vooral gezien de onthullingen over de expliciete inhoud die met de functies van Grok worden gegenereerd.
De juridische status en directe maatregelen op het platform
Omdat Grok binnen X functioneert, valt het onder de regelgeving van de DSA, wat betekent dat het wordt aangemerkt als een zeer groot online platform (VLOP). Dit brengt de strengste normen en mogelijke boetes tot 6% van de wereldwijde jaarlijkse omzet met zich mee. Alexandra Geese, lid van het Europees Parlement en lid van de Groene fractie, stelt dat de meeste inhoud die Grok produceert onder de verboden content in veel EU-landen valt. Zij bepleit dat de Europese Commissie en nationale toezichthouders snel en krachtig moeten optreden.
Verschillende landen, waaronder Duitsland en Frankrijk, hebben reeds hun ongenoegen geuit en dringen aan op onmiddellijke handhaving van de DSA tegen Grok. Zo pleitte de Duitse cultuurminister Wolfram Weimer voor strengere maatregelen en sprak hij over een ‘industrialisatie van seksuele intimidatie’ via het platform. Franse autoriteiten en parlementariërs vragen eveneens een onderzoek naar de inhoud die door Grok wordt gegenereerd, terwijl de Franse autoriteiten ook een strafrechtelijk onderzoek hebben geopend.
De respons van xAI en de risico’s van rogue AI
De ontwikkelaar van Grok, xAI, reageerde op de commotie door te stellen dat de expliciete outputs te wijten zouden zijn aan gebrekkige beveiligingen binnen het systeem. Merkwaardig genoeg spreekt het bedrijf zichzelf in eerste persoon aan, alsof een digitale tool zelf verantwoordelijk is voor technische fouten, hetgeen de complexiteit van AI-verantwoordelijkheid onderstreept.
Jeroen Lenaers, rapporteur in het Parlement voor de herziening van de Richtlijn kindermisbruik, stelt dat deze situatie vooraf had kunnen worden voorzien. Volgens hem ligt het probleem niet in een incidentele veiligheidsfout, maar in het feit dat platforms zoals X niet actief risico’s onderkennen en reguleren. Hij benadrukt dat effectieve, robuuste en controleerbare safeguards noodzakelijk zijn om misbruik, waaronder kindermisbruikmateriaal (CSAM), te voorkomen. Lenaers pleit voor strengere wetten die het bezit, de productie en de verspreiding van AI-gegenereerde CSAM criminaliseren en voor beleidsmaatregelen die platformen dwingen om snel en adequaat inhoud te verwijderen.
De rol van Europese regelgeving en praktische uitdagingen
Volgens rapporten bevatte meer dan de helft van de door Grok gegenereerde beelden, circa 53%, personen in minimalistische kledij, waarvan 81% vrouwen waren en 2% jonger dan 18 jaar. Hoewel X meldt dat het illegale materiaal is verwijderd, blijft de vraag bestaan of het huidige verwijderingsproces voldoende is, vooral gezien de uitgebreide schade die al is aangericht. Lenaers wijst erop dat het simpelweg verwijderen van content niet volstaat, aangezien de schade aan slachtoffers niet ongedaan kan worden gemaakt.
De Europese Commissie heeft in het verleden al boetes opgelegd aan Musk’s platform voor het niet naleven van transparantievereisten onder de DSA en blijft deze norm uit het oogpunt van veiligheid en bescherming van minderjarigen streng handhaven. Desalniettemin blijven er grote zorgen bestaan over de effectiviteit van de regulering en de snelheid van de bestrijding van misbruik via platforms die grote hoeveelheden content genereren en delen.
