Ils suivent les conseils de Gemini pour gravir une montagne, la catastrophe évitée de justesse

Une confiance aveugle envers l’intelligence artificielle peut être particulièrement dangereuse. Une équipe de randonneurs, qui s’est fiée aux conseils de l’IA Gemini de Google, en a fait les frais la semaine dernière.

L’intelligence artificielle est incroyablement pratique dans certaines situations, c’est un fait. Mais il ne faut pas oublier que, comme le rappellent toujours les entreprises d’IA, celle-ci est susceptible de commettre des erreurs, et vérifier les informations importantes est essentiel. Et pourtant, une grande majorité d’utilisateurs suivent les conseils du chatbot d’OpenAI même s’ils sont faux, selon une étude. Et parfois, certains le regrettent amèrement. On a par exemple pu voir deux touristes frôler la noyade après avoir demandé des informations à ChatGPT.

Mais cela n’a visiblement pas empêché trois jeunes hommes américains d’en faire de même. En effet, en préparant leur ascension du mont Shasta, en Californie, ces derniers se sont tournés vers Gemini, la célèbre IA de Google. Et, une fois n’est pas coutume, celle-ci s’est lourdement trompée.

En effet, l’IA leur aurait assuré que l’ascension de ce stratovolcan (potentiellement actif) prendrait à peine quelques heures. Les jeunes hommes ont donc prévu un minimum de vivres, tout en estimant qu’ils seraient de retour avant la nuit tombée. Mais ce ne fut pas du tout le cas.

Conseils d’IA erronés : la catastrophe évitée de justesse

Les randonneurs ont donc été contraints de redescendre dans le noir, s’écartant progressivement de l’itinéraire conseillé. Pire encore : l’un d’entre eux s’est blessé au genou. Les trois jeunes hommes ont donc décidé de passer la nuit sur place, avant d’être secourus par des gardes forestiers.

Les trois amis ont donc été « conseillés par Gemini d’emporter beaucoup moins de nourriture et d’eau que ce dont leur groupe avait besoin, notamment lorsque leur ascension prévue de huit heures s’est transformée en une épreuve de plusieurs jours », selon le bureau du shérif local.

À lire > OpenAI : ChatGPT multiplierait les conseils médicaux délirants

« Il est toujours recommandé d’appeler à l’avance la station des gardes forestiers du Service des forêts des États-Unis du mont Shasta afin de disposer des informations les plus précises, et de ne jamais se fier uniquement à l’IA pour planifier une excursion », ont ainsi mis en garde les autorités locales.

« L’altitude, les changements climatiques et l’accessibilité des sentiers doivent être pris en compte dans la planification », ajoute le guide Miguel Angel Gongora Meza. « Lorsque vous utilisez un programme comme ChatGPT d’OpenAI, qui combine des images et des noms pour créer une sorte de fantasme, vous pouvez vous retrouver à 4 000 mètres d’altitude, sans oxygène ni signal téléphonique. » 

Source : futurism