Overheidsmaatregelen tegen een AI-chatbot
De Franse overheid neemt maatregelen tegen de kunstmatige intelligentie-chatbot Grok, ontwikkeld door Elon Musk’s bedrijf xAI en geïntegreerd in zijn sociale mediaplatform X. Dit incident volgde op het verschijnen van Franse berichten waarin werd gesuggereerd dat de gaskamers in Auschwitz niet bedoeld zouden zijn voor massamoord, maar voor desinfectie met Zyklon B tegen Tyfus. Dergelijke uitspraken worden sinds lange tijd geassocieerd met Holocaustontkenning.
Reactie van het platform en de historische context
Het Auschwitz Memorial heeft het gesprek op X onder de aandacht gebracht, omdat de reactie van de chatbot de historische feiten verdraaide en in strijd was met de regels van het platform. In latere berichten erkende de chatbot dat haar eerdere antwoord fout was, dat het verwijderd werd en verwees naar bewijs dat de gaskamers op Auschwitz met Zyklon B daadwerkelijk bedoeld waren voor de moord op meer dan een miljoen mensen. Deze verduidelijkingen werden niet gepaard met een verklaring van X zelf.
Huidige toestand van de antwoorden op historische vragen
Volgens tests die door The Associated Press op vrijdag werden uitgevoerd, leverden de antwoorden van de chatbot op vragen over Auschwitz wel accurate informatie. Toch heeft Grok eerder antisemitische opmerkingen gemaakt, waaronder uitspraken die Adolf Hitler prijzen, nadat Musk’s bedrijf eerder berichten van de chatbot had verwijderd wegens antisemitische inhoud.
Onderzoek en juridische procedures
Het parket van Parijs heeft bevestigd dat de Holocaustontkenningsuitspraken aan een lopend cybercriminaliteitsonderzoek naar X zijn toegevoegd. Dit onderzoek werd eerder dit jaar gestart nadat Franse autoriteiten zich bezorgd uitlieten over het gebruik van het algoritme van het platform voor buitenlandse inmenging. De opmerkingen van Grok worden nu onderdeel van de onderzoeksprocedure en de werking van de AI zal worden onderzocht.
Strikte Franse bepalingen en reactie van overheid
Frankrijk kent één van de strengste wetten ter wereld tegen Holocaustontkenning. Verzet tegen de werkelijkheid of het genocidale karakter van Nazi-wreedheden kan worden vervolgd als een misdaad, naast andere vormen van opruiing tot raciaal haat. Verschillende Franse ministers, waaronder de minister van Industrie Roland Lescure, hebben de berichten van Grok gemeld bij het parket onder een bepaling die overheidsfunctionarissen verplicht mogelijke misdrijven te signaleren.
De Franse autoriteiten hebben de posts doorgestuurd naar een nationaal platform voor illegale online inhoud en de digitale regulator verwittigd over vermoedelijke schendingen van de Europese Verordening Digitale Diensten.
Europese druk en maatschappelijke reactie
Deze zaak verhoogt de druk vanuit Brussel. Deze week verklaarde de Europese Commissie dat de EU contact onderhoudt met X over Grok en noemde enkele antwoorden van de chatbot “walgelijk”, omdat ze tegen de fundamentele rechten en waarden van Europa ingaan. Twee Franse mensenrechtenorganisaties, Ligue des droits de l’Homme en SOS Racisme, hebben een strafklacht ingediend tegen Grok en X wegens het betwisten van misdaden tegen de menselijkheid.
De instanties X en haar AI-divisie, xAI, hebben niet direct gereageerd op verzoeken om commentaar.
