ChatGPT : faute de succès, OpenAI met fin à son outil de détection d’IA

Distinguer un texte généré par l’IA du travail d’un humain n’est pas chose facile. Il semblerait d’ailleurs qu’OpenAI, à qui on doit ChatGPT, n’en soit pas non plus capable.

OpenAI, qui vient de mettre GPT-4 à la disposition de tous, continue à améliorer les performances de son chatbot. Et si ChatGPT aurait perdu en intelligence, celui-ci peut maintenant se souvenir des conversations passées. En attendant, le chatbot est largement utilisé afin de rédiger des textes. D’ailleurs, BuzzFeed s’en sert afin de rédiger facilement des guides de voyage. Alors, comment distinguer un « vrai » texte d’un « faux » ? Il semblerait que même OpenAI peine à accomplir cette tâche…

OpenAI a ainsi fermé son « classificateur d’IA », un outil de détection d’IA lancé six mois plus tôt. La société assurait alors que celui-ci était capable de « distinguer un texte écrit par un humain d’un texte écrit par des IA provenant de divers fournisseurs« . Et pourtant, il semblerait que celui-ci ne soit pas aussi efficace qu’annoncé.

OpenAI est incapable de reconnaître un texte généré par sa propre IA

En revanche, selon OpenAI, ce système pourrait être utilisé de manière différente. En effet, s’il ne peut pas affirmer qu’un texte a été généré par l’IA, l’inverse est possible. Ainsi, l’outil serait tout de même en mesure de prouver qu’un texte n’a pas été rédigé par un véritable être humain.

OpenAI écrit : « Bien qu’il soit impossible de détecter de manière fiable tous les textes écrits par l’IA, nous pensons que de bons classificateurs peuvent permettre d’atténuer les fausses affirmations selon lesquelles le texte généré par l’IA a été écrit par un humain […] Par exemple, en menant des campagnes de désinformation automatisées, en utilisant des outils d’IA pour lutter contre la malhonnêteté académique et en faisant passer un chatbot d’IA pour un humain« .

De plus, OpenAI n’a jamais affirmé que son outil serait d’une précision infaillible. D’ailleurs, à ce jour, personne d’autre n’a été en mesure de produire un outil de détection de l’IA totalement fiable. Cette absence peut paraître inquiétante, l’IA pouvant déjà produire des œuvres d’art capables de remporter des prix sans qu’on s’en aperçoive.

Source : futurism4