Overzicht van de situatie rond Grok
Malaysië en Indonesië zijn de eerste landen die de toegang tot Grok, de kunstmatige intelligentie-chatbot ontwikkeld door het bedrijf xAI van Elon Musk, hebben geblokkeerd. Deze maatregel is genomen te midden van toenemende zorgen onder wereldwijde autoriteiten dat de technologie wordt misbruikt voor het genereren van seksueel expliciete en non-consensuele afbeeldingen. Grok, dat toegankelijk is via Musk’s sociale mediaplatform X, is bekritiseerd omdat het gemanipuleerde beelden produceert, waaronder vrouwen in bikini’s, seksuele poses of afbeeldingen met minderjarigen.
Bezorgdheid over generatieve AI en misbruik
De snelle ontwikkeling van generatieve AI-technologieën die realistische beelden, geluiden en teksten kunnen produceren, leidt tot meer controle- en veiligheidszorgen. Naast de kritieken op Grok wordt er wereldwijd gekeken naar de tekortkomingen van de bestaande waarborgen die niet afdoende blijken om misbruik te voorkomen. Volgens Indonesische en Maleisische autoriteiten zijn er vooral problemen met het creëren en verspreiden van pornografisch materiaal dat gebaseerd is op echte foto’s van inwoners, inclusief minderjarigen. Deze praktijken kunnen de privacy en beeldrechten van mensen schaden wanneer ze worden gemanipuleerd of zonder toestemming worden gedeeld.
Repressieve maatregelen in Azië
De Indonesische overheid heeft op zaterdag tijdelijk de toegang tot Grok geblokkeerd, gevolgd door een vergelijkbare maatregel van Maleisië op zondag. Volgens Alexander Sabar, directeur-generaal van toezicht op het digitale domein, ontbreken er effectieve beveiligingsmaatregelen in Grok om te voorkomen dat gebruikers pornografische inhoud kunnen genereren en verspreiden, vooral wanneer dit gebaseerd is op foto’s van Indonesische burgers. Beide landen hebben meldingen gestuurd aan het bedrijf X Corp. en xAI, waarin wordt geëist dat het platform strengere beschermingsmechanismen implementeert.
De Malaysia Communications and Multimedia Commission (MCMC) heeft geconstateerd dat er herhaaldelijk misbruik is gemaakt van de tool voor het genereren van obscene en seksueel expliciete beelden zonder instemming, met name met betrekking tot vrouwen en minderjarigen. Het toezichtsorgaan heeft deze maand waarschuwingen gestuurd en benadrukt dat toegang tot Grok voorlopig blijft geblokkeerd totdat de noodzakelijke veiligheidsmaatregelen zijn verbeterd.
Ontwikkelingen in het Verenigd Koninkrijk
Grok, gelanceerd in 2023, is gratis te gebruiken via het platform X. Sinds vorig jaar beschikt het over een functie voor het genereren van beelden, Grok Imagine, inclusief een “spicy mode” die expliciet materiaal kan produceren. De Britse toezichthouder, Ofcom, is een onderzoek gestart om te beoordelen of Grok in strijd handelt met de verplichting om gebruikers te beschermen tegen illegale inhoud. Beelden die kinderen sexueel uitbuiten of mensen onzedelijk tonen, kunnen mogelijk kwalificeren als pornografie of kindermisbruikmateriaal.
Technologiebeleidmakers, waaronder de minister van Media Liz Kendall, hebben de AI-gegenereerde beelden bestempeld als “wapens van misbruik” en zetten zich in voor strengere regelgeving. Zij willen het illegaal maken voor bedrijven om tools te leveren die zonder toestemming naaktbeelden kunnen creëren. Kendall waarschuwde dat X mogelijk een boete tot 10% van haar wereldwijde inkomsten kan krijgen, afhankelijk van de uitkomst van het onderzoek, en dat een rechterlijke beschikking kan worden uitgesproken om de toegang tot de site te blokkeren.
Over de kwestie heeft Elon Musk op het weekend de Britse regering bestempeld als “fascistisch” en beweerd dat het inspanningen levert om de vrije meningsuiting te onderdrukken.
Verloop van de onderzoeken en de reactie van Musk
Terwijl de controverse toeneemt, blijft Grok vooral de aandacht trekken door haar potentieel voor het genereren van schadelijke inhoud. Het ontbreken van effectieve restricties blijkt in Nederland en het Verenigd Koninkrijk de detectie en preventie hiervan nog verder te bemoeilijken.
Een schriftelijk reactie van xAI op vragen over de internationale terugslag was automatisme en bevatte de boodschap “Legacy Media Lies” (“Legacy Media liegt”). Ditzelfde antwoord werd ontvangen op een andere vraag over de situatie in het buitenland. Musk beschuldigde bovendien de regeringen die hem kritisch volgen ervan dat zij de vrijheid van meningsuiting willen beperken, terwijl de regelgeving zich nu richt op het voorkomen van misbruik van AI-technologieën.
