OpenAI : cette école utilise ChatGPT pour interdire certains livres

Le district scolaire communautaire de Mason City, dans l’Iowa, utilise actuellement ChatGPT d’OpenAI pour identifier les contenus à caractère sexuel dans les livres de ses élèves.

L’intelligence artificielle, notamment ChatGPT, est décidément présente partout. Elle est employée dans le monde professionnel, un PDG ayant remplacé 90 % de ses employés par l’IA. Cependant, cette technologie trouve également des applications dans le milieu éducatif. D’ailleurs, Harvard prévoit bientôt de mettre en place des « enseignants » alimentés par l’IA. Dans ce cas-ci, l’IA est utilisée pour censurer certains livres.

Selon un rapport récent de Popular Science, les administrateurs de l’école ont posé la question « Le livre contient-il une description ou une représentation d’un acte sexuel ? » à ChatGPT pour chaque livre généralement contesté. Si ChatGPT répond positivement, le livre est retiré de la circulation et mis en réserve. Parmi les livres interdits figurent The Kite Runner de Khaled Hosseini, The Handmaid’s Tale de Margaret Atwood et I Know Why the Caged Bird Sings de Maya Angelou.

OpenAI : ChatGPT se contredit

Cependant, comme c’est souvent le cas, ChatGPT fournit parfois des informations contradictoires en fonction de la manière dont les utilisateurs formulent leurs questions. Un journaliste de The Verge a saisi la liste des 19 livres interdits par le district scolaire de Mason City dans ChatGPT et a demandé s’ils contenaient des scènes explicites ou sexuelles. ChatGPT a indiqué que plusieurs d’entre eux ne contenaient pas ce type de contenu.

Bridgette Exman, surintendante adjointe du programme scolaire et de l’enseignement de Mason City, a déclaré : « Notre objectif était de trouver un processus efficace pour commencer l’année en ayant l’intention de nous appuyer ensuite sur notre processus de longue date qui permet aux parents de demander au district de reconsidérer la question. Les livres qui sont actuellement sur la liste peuvent être reconsidérés, tout comme les livres qui ne sont pas sur la liste peuvent être reconsidérés« .

OpenAI réitère constamment : malgré l’efficacité de ChatGPT, un humain doit toujours vérifier les informations fournies par l’intelligence artificielle. Plus tôt cette année, un avocat a utilisé ChatGPT pour appuyer son dossier, mais le chatbot a inventé de nombreuses informations, ce qui a conduit l’avocat à présenter ses excuses.

Source : theverge