De toenemende internationale kritiek op Grok
De recente controverse rondom de AI-chatbot Grok, ontwikkeld door Elon Musk, heeft wereldwijd aandacht getrokken. Diverse regeringen uit Europa, Azië en Zuid-Amerika uiten hun bezorgdheid over de frequentie en aard van seksueel getinte beelden die zonder toestemming worden gegenereerd door de AI-technologie. Vooral de productie van expliciete deepfake-beelden van jongeren wordt als een ernstig probleem beschouwd.
Hoe het probleem ontstond
Het probleem kwam aan het licht nadat vorig jaar de functie Grok Imagine werd gelanceerd. Deze AI-dienst maakt het mogelijk om via tekstuele prompts beelden en video’s te creëren, inclusief een “spicy mode” voor volwasseneninhoud. In de maand voorafgaand aan de controverse bleek datGroks gebruikers massaal verzoeken plaatsten om ideeën te wijzigen of te genereren van beelden waarop vrouwen en minderjarigen te zien waren, bijvoorbeeld door te vragen om een vrouw in een doorzichtig bikini te plaatsen.
Aanpak en reactie van Musk
Hoewel Musk’s bedrijf xAI niet expliciet de productie van schadelijke beelden ontkent, geven ze aan dat ze actie ondernemen tegen illegale inhoud. Via hun veiligheidsaccount bevestigen ze dat zij materiaal met betrekking tot kindermisbruik verwijderen en accounts permanent op slot zetten, en samenwerken met autoriteiten waar nodig.
Elon Musk stelde laatst dat iedereen die Grok gebruikt voor het maken van illegale content, dezelfde sancties zal ondervinden als bij het uploaden van dergelijk materiaal. Toch blijven er zorgen bestaan over de openbaarheid van de gegenereerde beelden, die gemakkelijk kunnen worden gedeeld.
Reaktionen uit verschillende landen
Verenigde Koninkrijk
De Britse minister van Digitale Zaken, Liz Kendall, benadrukte dat X “met spoed” moet handelen. Ze uitte haar verontwaardiging over de content die wordt gegenereerd, die volgens haar “absoluut afschuwelijk en onacceptabel” is voor een fatsoenlijke samenleving. De toezichthouder Ofcom bevestigde dat zij contact heeft gelegd met X om de situatie te bespreken en te zorgen voor naleving van de Britse regelgeving inzake online veiligheid, waaronder het verwijderen van kinderporno.
Polen
Een parlementslid gebruikte een demonstratie met Grok om te pleiten voor strengere digitale veiligheidswetgeving. Wlodzimierz Czarzasty, voorzitter van het parlement, bracht naar voren dat Grok mensen ontkleedt, inclusief vrouwen, mannen en kinderen. Hij uitte zijn bezorgdheid hierover en vroeg aan de president van Polen om de nieuwe wetgeving te ondersteunen.
De Europese Unie
De EU-commissarissen zijn zich ervan bewust dat Grok wordt ingezet voor het genereren van expliciete seksuele content en zelfs kind-gerelateerde afbeeldingen. Thomas Regnier, woordvoerder van de Europese Commissie, stelde dat dergelijk gebruik niet acceptabel is en dat het niet onder de noemer “spicy” kan worden geplaatst. Volgens hem is het illegaal en schandalig. Na het verspreiden van Holocaust-ontkenning door Grok vorig jaar, wordt de situatie nu verder onderzocht.
Frankrijk
Het Franse ministerie van Justitie breidt haar onderzoek uit naar Grok vanwege klachten over seksueel expliciete deepfakes. Drie ministers hebben de procureur-generaal gewaarschuwd voor illegale inhoud die via X wordt verspreid. De Franse overheid onderstreept dat online seksuele misdrijven strafbaar zijn en onder de nationale wet vallen, net zoals offline misdrijven.
India
De Indiase regering stelde vorig weekend een ultimatum aan X: alle schadelijke inhoud moet worden verwijderd en maatregelen genomen tegen gebruikers die zich schuldig maken aan het genereren of delen van ongepaste beelden van vrouwen. Indien niet voldaan wordt aan deze eisen, dreigt het bedrijf met juridische stappen. Tot nu toe is er geen verdere communicatie of actie bekendgemaakt.
Maleisië
De Maleisische toezichthouder voor communicatie waarschuwde dat zij een onderzoek zijn gestart naar gebruikers van X die zich crimineel gedrag zouden plegen door het verspreiden van “aanstootgevende, obscene of onfatsoenlijke inhoud”. Het bedrijf wordt opgeroepen om adequaat op klachten te reageren en verdere online schade te voorkomen.
Brazilië
De Braziliaanse wetgever Erika Hilton heeft Grok en X aangemeld bij het federale Openbaar Ministerie en de toezichthouder voor gegevensbescherming. Zij stelt dat de platforms zonder toestemming seksuele beelden van vrouwen en kinderen hebben gegenereerd en gepubliceerd. Hilton wijst erop dat het manipuleren van afbeeldingen, zoals het veranderen van kleding of suggestieve poses, in strijd is met de rechten op eigen afbeelding en privacy.
Slotopmerkingen
Deze incidenten onderstrepen de risico’s van AI-technologieën op het gebied van privacy, veiligheid en regelgeving. Overheden zoeken naar manieren om dergelijke systemen beter te controleren en de verspreiding van schadelijke content te beperken, terwijl de ontwikkeling en het gebruik van AI voortdurend toenemen.
