Intelligence artificielle : une IA invente de fausses citations de personnages bien réels

Cette fois, l’intelligence artificielle est allée trop loin. En effet, celle-ci s’est permis d’inventer de toutes pièces des citations provenant de personnages historiques.

C’est désormais un fait acquis : l’intelligence artificielle est capable de tout, ou presque. Celle-ci peut produire des œuvres d’art capables de gagner des prix et même effectuer du recouvrement de dettes. Pourtant, celle-ci est également capable de mentir ou de se tromper. En effet, une IA a par erreur accusé des étudiants de plagiat. Et cette fois, elle invente tout simplement des citations.

Le site web en question, appelé The Enlightened Mindset, affiche ainsi des milliers d’articles dont les premiers remontent à janvier 2023. Parmi ceux-ci, la grande majorité contient des signes révélateurs de la génération par IA. Le texte est générique et ne comporte pas de liens vers les sources, tandis que les images incluses semblent elles aussi avoir été générées par l’IA.

Intelligence artificielle : l’IA se trompe lourdement

De plus, en y regardant de plus près, on s’aperçoit que le texte des articles produits par l’IA est souvent truffé d’informations erronées. Pire : ces articles incluent des citations fabriquées par l’IA qui, fait inquiétant, sont la plupart du temps attribuées à des personnes tout à fait réelles.

Dans le film Harry Potter, par exemple, Hagrid (Robbie Coltrane) a parfois été remplacé par une tête animatronique. L’article « cite » alors Reuben Binns, un chercheur en IA spécialisé dans l’apprentissage automatique : « Les robots peuvent être capables d’imiter les émotions, mais ils ne peuvent pas les ressentir de la même manière que les humains. Cela signifie qu’ils ne peuvent pas transmettre le même niveau d’émotion qu’un acteur humain« .

Mais, bien que l’intéressé ne soit pas nécessairement en désaccord avec cette citation générée par l’IA, il ne l’a jamais vraiment prononcée. Le chercheur déclare ainsi : « C’était amusant de lire la citation elle-même, parce que, tout d’abord, elle se trompe sur mon affiliation. Je ne suis pas professeur d’intelligence artificielle à l’université de Cambridge, mais professeur d’informatique centrée sur l’humain à l’université d’Oxford… même si, dans l’absolu, ces deux choses, le titre et l’affiliation, ne sont pas si éloignées l’une de l’autre. »

Source : futurism