DetectGPT reconnaît les textes générés par ChatGPT

Mauvaise nouvelle pour les étudiants les plus malins qui songent à utiliser ChatGPT pour tricher aux examens car DetectGPT pourrait bien les en dissuader.

L’Intelligence Artificielle a du bon et du moins bon. Pour la recherche médicale ou scientifique en général l’utilisation de l’IA permet de faire d’énormes progrès mais pour ce qui concerne les études, les conséquences peuvent être moins appréciable. En effet, depuis l’arrivée de ChatGPT et ses performances incroyables en termes de génération de contenus textes de très haute qualité, les étudiants, bien malins, ont tout de suite vu l’opportunité d’utiliser ce programme pour les aider à plus rapidement faire leurs devoirs et même planifier de l’utiliser pour leurs examens.

Mais les enseignants ne sont pas si naïfs qu’ils peuvent en avoir l’air et une alternative du nom de « DetectGPT » arrive au bon moment pour combattre la paresse de certains étudiants. Bannir ChatGPT ou l’IA en général des établissements scolaires ne sert pour le moment à rien car ce n’est d’ailleurs tout simplement légalement pas possible. Les enseignants vont pouvoir remercier une équipe de chercheurs de l’Université de Stanford qui vient de mettre au point « DetectGPT », un outil qui permet de détecter si un texte a été écrit par un humain ou une machine sous Intelligence Artificielle.

DetectGPT mais d’autres outils peuvent combattre la puissance de ChatGPT

Grâce à « DetectGPT », les étudiants ne devraient plus pouvoir faire croire le corps enseignant que leurs productions éditoriales viennent d’eux même alors qu’en réalité ils ont tout simplement utilisé ChatGPT pour pondre ce texte en quelques secondes. Selon les chercheurs de Stanford, « DetectGPT » aurait la capacité de détecter des échantillons de modèles de langue préformés. Pour réussir cela, « DetectGPT » utilise la « courbure locale de la fonction de probabilité logarithmique du modèle ». En résumé, cet outil est capable de détecter une partie de texte qui serait générée par de l’Intelligence Artificielle.

D’autre outils basés sur le même principe existent. Par exemple, GPTZero est un outil similaire, créé par un étudiant, qui a la capacité lui aussi de détecter des textes qui seraient produits par ChatGPT-3. Ainsi, grâce à toutes ces alternatives qui permettent de combattre ChatGPT et si les enseignants ont la bonne idée de les utiliser pour contrôler les contenus, alors ils pourront vite voir qui sont les étudiants qui trichent ou pas. « DetectGPT » serait, selon ses développeurs, fiable à 95%, ce qui confirme que l’outil est censé être très performant.

Source : Stanford