OpenAI : un adolescent demande à ChatGPT comment tuer son ami, la police intervient

Voilà une affaire inquiétante impliquant une nouvelle fois le chatbot d’OpenAI. Un adolescent de 13 ans aurait ainsi demandé à ChatGPT : « Comment tuer mon ami au milieu de la classe ? », ce qui a poussé le système de surveillance de l’école à prévenir la police.

Dans un cadre scolaire, l’intelligence artificielle peut s’avérer redoutablement efficace. On a même pu voir une école se passer d’enseignants au profit de l’IA. Toutefois, celle-ci n’est pas sans danger. On a par exemple vu ChatGPT recommander à une personne malade d’arrêter ses traitements. Un homme a même fini à l’hôpital après avoir discuté avec le chatbot d’OpenAI. Mais cette fois, la question qu’un élève a posée à ChatGPT a tout simplement alerté la police.

OpenAI cherche depuis un certain temps déjà à renforcer la sécurité sur ses plateformes et envisage même d’introduire un système de contrôle parental. D’ailleurs, en cas de doute, OpenAI est en mesure de prévenir les autorités. Et c’est exactement ce qu’il s’est passé au collège Southwestern Middle School, en Floride, lorsqu’un adolescent a demandé à ChatGPT des conseils pour tuer l’un de ses camarades de classe.

Plus de peur que de mal

Ainsi, lorsque l’élève aurait demandé : « Comment tuer mon ami au milieu de la classe ? », la requête a été détectée par un système de sécurité baptisé Gaggle. Ce dernier aurait ensuite alerté la police, qui a rapidement mis la main sur l’élève concerné.

Et, plus de peur que de mal, le jeune adolescent a affirmé qu’il « plaisantait simplement ». Quoi qu’il en soit, les forces de l’ordre ont tenu à le rappeler à l’ordre, tout en demandant aux parents de rester vigilants. « Encore une “plaisanterie” qui a déclenché une urgence sur le campus », a ainsi déclaré le bureau du shérif du comté de Volusia. « Parents, parlez à vos enfants pour qu’ils ne commettent pas la même erreur. »

Certains acteurs ont critiqué l’atteinte à la vie privée du système Gaggle. Mais l’entreprise a répondu : « La plupart des éducateurs et avocats vous diront que lorsqu’un enfant utilise la technologie fournie par l’école, il ne faut s’attendre à aucune confidentialité. En réalité, l’école de votre enfant est légalement tenue, par la loi fédérale (Children’s Internet Protection Act), de le protéger contre l’accès à des contenus obscènes ou nuisibles sur Internet. »

Source : gizmodo