L’IA envoie un adolescent au pied d’une falaise, il doit appeler les secours
Le week-end dernier, ce qui devait être une simple randonnée a failli virer au drame pour un adolescent canadien. Celui-ci a planifié son itinéraire à l’aide de l’IA, avant de se retrouver bloqué sur une falaise…
De plus en plus performante, l’intelligence artificielle semble parfois être particulièrement sûre d’elle-même. Mais il ne faut pas oublier que des entreprises d’IA telles qu’OpenAI le rappellent en permanence : « ChatGPT peut commettre des erreurs. Vérifiez les informations importantes ». Et pourtant, cela n’empêche pas certains utilisateurs de lui faire confiance de manière quasiment aveugle. D’ailleurs, une étude révèle qu’une grande majorité d’utilisateurs suivent les conseils du chatbot d’OpenAI même s’ils sont faux. Et parfois, les choses tournent mal.
On pense par exemple à ces deux touristes, qui ont frôlé la noyade après avoir suivi les conseils de l’intelligence artificielle. Dans un même registre, un groupe de randonneurs a dû être secouru après avoir suivi les conseils de l’IA de Google, Gemini, pour gravir une montagne.
Quand l’IA envoie un randonneur au pied d’une falaise
Et le sujet du jour est particulièrement similaire. Non loin de Vancouver, au Canada, un adolescent de 16 ans s’est lancé dans l’ascension de la Crown Mountain. Ce dernier aurait préparé son périple en utilisant un modèle d’IA de marque inconnue. Mais, une nouvelle fois, l’IA s’est lourdement trompée.
En effet, au cours de l’ascension, le jeune homme s’est retrouvé sur un terrain particulièrement difficile, nécessitant certaines compétences en escalade. L’adolescent s’est alors retrouvé coincé au pied d’une falaise, avant de contacter les secours en milieu d’après-midi.
« Il s’avère que ce randonneur s’est retrouvé très loin de l’itinéraire de randonnée de Crown Mountain », explique la North Shore Rescue. « Nous ne savons pas exactement comment ni où, et [il] s’est retrouvé bloqué sur une voie d’escalade connue sous le nom de “Widowmaker”, au pied de sa dernière paroi. »
« Soyez prudents lorsque vous utilisez les itinéraires et les informations proposés par une IA », met en garde Paul Markey, responsable des recherches. Celui-ci rappelle l’évidence, à savoir la vérification minutieuse des informations fournies par la machine : « Vous ne pouvez pas simplement suivre aveuglément ce que l’IA vous propose. Vous devez remettre en question les informations et vérifier si elles sont cohérentes ou non. »
Source : gizmodo