De situatie rondom Grok en de generatie van kritiek
Elon Musk’s AI-chatbot Grok, een toepassing die via de sociale mediaplatform X toegankelijk is, ondergaat momenteel significante beperkingen in de functionaliteit. Na een internationale controverse, met name vanwege de productie van seksueel getinte deepfakes, is besloten om de mogelijkheid voor gebruikers om afbeeldingen te genereren of te bewerken vrijwel volledig te beperken.
De controverse ontstond nadat bleek dat de chatbot in korte tijd verzoeken van gebruikers heeft gehonoreerd die gericht waren op het manipuleren van beelden, waaronder het plaatsen van vrouwen in bikini’s of in expliciete poses. Onderzoekers hebben gewaarschuwd dat sommige van deze afbeeldingen mogelijk kinderen afbeeldden. Overheden wereldwijd hebben de platformen veroordeeld en onderzoeken naar het gebruik van deze functies geopend.
Reacties en maatregelen van Musk en regelgevende instanties
Recentelijk reageerde Grok op verzoeken tot beeldwijzigingen met de mededeling dat beeldgeneratie en -bewerking alleen beschikbaar is voor abonnees. De platformbezoekers werden geïnformeerd dat ze kunnen abonneren om deze functies te ontgrendelen. Hoewel het exacte aantal abonnees niet publiekelijk bekend is, is er een duidelijke afname in het aantal expliciete deepfake-beelden die het systeem nu produceert, vergeleken met vorige dagen.
De Europese Unie keurde het gedrag van Grok af als “illegaal” en “aanstootgevend”, terwijl ook regeringen uit Frankrijk, India, Maleisië en een Braziliaanse parlementariër voorstellen tot onderzoek hebben gedaan. Premier Keir Starmer van Groot-Brittannië dreigde met niet nader genoemde acties tegen X. Hij uitte zijn zorg over de situatie in een radioprogramma en stelde dat de regulator Ofcom volledige steun krijgt om passende maatregelen te nemen.
Starmer benadrukte dat het onacceptabel is dat dergelijke inhoud publiekelijk zichtbaar is en dat er actie ondernomen moet worden. Zowel Ofcom als de Britse privacytoezichthouder hebben bevestigd dat ze contact hebben gehad met X en de kunstmatige intelligentie-onderneming xAI, die door Musk wordt geleid, omtrent de genomen maatregelen om te voldoen aan de Britse regelgeving.
De functionaliteit en risico’s van Grok
Hoewel Grok gratis toegankelijk is voor gebruikers van X, waarmee zij vragen kunnen stellen via het platform door ofwel het te taggen in hun eigen posts of in reacties op andere berichten, bleef de controverse vooral rond de inhoud en het gebruik ervan bestaan. Gelanceerd in 2023, introduceerde het bedrijf in de zomer van vorig jaar een functie genaamd Grok Imagine, inclusief een “spicy mode” die expliciete, volwassenen gerichte content kan genereren.
De problematiek wordt versterkt doordat Musk zichzelf profileert met een chatbot die een alternatief biedt dat “geavanceerder” en minder streng gereguleerd is dan die van concurrenten. Daarnaast worden de gegenereerde beelden openbaar gedeeld, wat het gemakkelijker maakt om deze te verspreiden, hetgeen de bezorgdheid over misbruik en schadelijke inhoud versterkt.
