L’IA de Discord fait n’importe quoi, des milliers de comptes bannis sans raison

La plus célèbre des plateformes vocales de gaming vient de reconnaître un bug touchant son IA de modération. Celle-ci a en effet banni plusieurs milliers de comptes sans que l’on sache pourquoi.

En 2026, Discord connaît d’importants changements, pour le meilleur comme pour le pire. La plateforme vocale passe par exemple à la reconnaissance faciale pour vérifier votre âge, une mesure qui ne passe pas auprès de nombreux gamers. D’ailleurs, face à leur grogne, Discord a préféré ralentir son déploiement. Et pour cause : plusieurs dizaines de milliers de pièces d’identité auraient été volées par des hackers. Par ailleurs, Discord a décidé de mettre en place une IA chargée de modérer la plateforme.

Toutefois, l’IA de Discord serait loin d’être au point. Celle-ci est notamment chargée de détecter les images allant à l’encontre des standards de la plateforme. Cela inclut des photos à caractère pornographique (NSFW), ainsi que des images montrant des scènes de violence.

Et pourtant, l’IA aurait « confondu » des images tout à fait acceptables, bannissant ainsi automatiquement pas moins de 8 000 comptes Discord. Rien qu’au cours du week-end dernier, la plateforme aurait éjecté pas moins de 200 comptes supplémentaires sans raison apparente.

Discord : des bugs en cascade

Discord n’a pas tardé à réagir, en envoyant des modérateurs bien humains vérifier les comptes concernés. Mais, même une fois les comptes en question validés, ce même bug empêchait leur rétablissement.

« Nous avons rencontré un bug qui a provoqué cette situation. Lorsque nos équipes examinaient les comptes concernés et confirmaient qu’ils ne violaient aucune règle, ce même bug empêchait automatiquement la levée du bannissement. Les comptes restaient donc suspendus malgré leur validation, explique Discord.

Bonne nouvelle toutefois, l’ensemble des comptes injustement suspendus auraient été rétablis par la plateforme.

« Environ 8 200 comptes ont été touchés entre mai 2026 et la semaine dernière, auxquels se sont ajoutés 200 autres ce week-end. Nous avons désormais rétabli tous les comptes affectés par ce bug. »

Ce n’est pas la première fois qu’une IA cause des problèmes en ligne. Sur Instagram, par exemple, des hackers ont réussi à utiliser l’assistant d’IA de Meta pour voler des milliers de comptes. 

Source : techcrunch