Officiële start van het onderzoek en reactie van de overheid
De Britse toezichthouder op online veiligheid, Ofcom, heeft formeel een onderzoek geopend naar het sociale mediaplatform X, eigendom van Elon Musk. Het onderzoek richt zich op de AI-assistent Grok, die pornografische afbeeldingen van vrouwen en kinderen heeft gegenereerd. De Britse overheid heeft aangegeven het orde te ondersteunen en mogelijk een verbod op X in het Verenigd Koninkrijk te overwegen, indien dat nodig zou zijn.
Context en initiatie van het onderzoek
Ofcom vermeldde dat het een officieel onderzoek had gestart na een eerste beoordeling die met urgentie was uitgevoerd. Deze beoordeling kwam na contact met het platform en een snelle analyse van de situatie. Het platform X, dat wereldwijd onder kritiek staat vanwege de inhoud die via de AI-assistent Grok werd gegenereerd, werd onder meer door de Britse Internet Watch Foundation gewaarschuwd. Volgens deze organisatie toonden enkele van de beelden jonge meisjes en vrouwen, inclusief minderjarigen tussen 11 en 13 jaar oud.
Na de controverse heeft X de mogelijkheid voor het genereren van afbeeldingen beperkt tot betalende gebruikers. Toch verklaarde de Britse minister van technologie, Liz Kendall, dat het volledig onacceptabel was dat Grok dit soort inhoud bleef toestaan, zelfs voor betalende klanten.
Focus van het onderzoek en wettelijke verplichtingen
Het onderzoek richt zich op de vraag of X heeft voldaan aan haar verplichtingen om illegale inhoud te voorkomen en te verwijderen wanneer deze wordt ontdekt. In het VK wordt materiaal met betrekking tot kindermisbruik geclassificeerd als ‘prioritaire’ illegale inhoud, hetgeen betekent dat platforms strengere eisen hebben om de verspreiding ervan te voorkomen. Daarnaast benadrukte Ofcom dat platforms de privacy van betrokken gebruikers moeten beschermen en maatregelen moeten nemen om te waarborgen dat kinderen geen toegang krijgen tot pornografische beelden.
“We zullen niet aarzelen om te onderzoeken waar we vermoeden dat bedrijven hun plichten niet nakomen, vooral wanneer er risico is op schade voor kinderen,” aldus een woordvoerder van Ofcom.
Potentiële gevolgen en internationale context
Als Ofcom vaststelt dat X tekort is geschoten in het beschermen van haar gebruikers, kunnen de sancties variëren van boetes tot een totaalverbod op het platform in het VK. De Britse regering heeft aangegeven het toezicht te ondersteunen, wat heeft geleid tot een verontwaardigde reactie van Elon Musk. Hij stelde dat een dergelijke maatregel de vrijheid van meningsuiting zou aantasten.
Voorlopig zijn Indonesië en Maleisië de enigen die tijdelijke verboden hebben opgelegd aan X. De Europese Commissie is ook een onderzoek gestart en heeft informatie opgevraagd bij het platform.
