Grok : les deepfakes sexuels du chatbot d’Elon Musk bientôt interdits au Royaume-Uni

Les choses se compliquent pour Grok, l’IA développée par xAI, l’une des entreprises d’Elon Musk. En effet, le gouvernement britannique s’apprête à appliquer une loi visant à interdire la création non consensuelle d’images et de vidéos sexuelles.

Après nous avoir mis en garde contre les dangers de l’IA, Elon Musk n’a pas tardé à lancer sa propre entreprise d’IA, xAI. Celle-ci développe le chatbot Grok, disponible sur le réseau social X. Mais, si Elon Musk affirme que Grok 3 est en mesure de surpasser OpenAI et DeepSeek, celui-ci n’est pas sans défaut. Grok a par exemple dérapé à plusieurs reprises, ce qui a poussé xAI à présenter publiquement des excuses. Mais les dernières frasques de Grok semblent avoir dépassé les limites acceptables pour certains gouvernements.

En effet, Grok aurait récemment été utilisé pour générer des deepfakes sexuels. Certains utilisateurs auraient en effet demandé à l’IA de déshabiller certaines filles, parfois mineures. Ces initiatives ont provoqué un tollé mondial, de nombreux gouvernements, dont la France, ayant fermement critiqué les actions de Grok.

Grok : « Le contenu qui a circulé sur X est abominable »

Dans ce cadre, le gouvernement britannique a décidé de rendre illégal le fait de générer des deepfakes à caractère sexuel sans le consentement de la personne concernée. Il est toutefois important de noter que le projet n’est pas nouveau, le Data Act britannique remontant à l’année dernière. Mais cette loi commencera à être appliquée cette semaine.

« Le contenu qui a circulé sur X est abominable. Ce n’est pas seulement une atteinte à la décence de la société, c’est illégal », a déclaré la secrétaire à la Technologie, Liz Kendall. « L’Internet Watch Foundation signale des images criminelles d’enfants dès l’âge de 11 ans, y compris des filles sexualisées et torse nu. Il s’agit d’abus sexuels sur enfants. »

« Nous avons vu des photos de femmes en bikini, attachées et bâillonnées, avec des contusions couvertes de sang, et bien plus encore », ajoute-t-elle. « Des vies peuvent être — et ont été — dévastées par ce contenu, qui est conçu pour harceler, tourmenter et violer la dignité des personnes. »

Source : gizmodo