Intelligence artificielle : l’IA de Google qui analyse la qualité de l’air fait n’importe quoi

L’intelligence artificielle n’est pas infaillible, loin de là. Une IA créée par Google, chargée de communiquer les chiffres de la qualité de l’air, semble loin d’être au point.

L’IA, aussi performante soit-elle, n’est parfois pas tout à fait au point, à tel point que l’un de ses créateurs regrette ses choix. Celle-ci a par exemple accusé à tort des étudiants de plagiat. Mais, s’il y a un domaine dans lequel l’IA est censée exceller, c’est bien celui de la compilation et de la synthèse d’informations. Pourtant, le nouvel outil de recherche expérimental de l’entreprise, Search Generative Experience (SGE), alimenté par l’IA, se trompe parfois grossièrement.

La qualité de l’air dans le Midwest et le Nord-Est des États-Unis a été catastrophique cette semaine, en raison des incendies de forêt qui ont ravagé le Canada. À tel point que certaines grandes villes, dont New York et Philadelphie, ont demandé aux habitants de limiter leurs activités en plein air. L’indice de qualité de l’air (IQA) a ainsi atteint des niveaux dangereux à certains endroits.

Intelligence artificielle : Google fonctionne bien, mais pas l’IA

De nombreux utilisateurs se servent donc de Google afin de vérifier régulièrement l’IQA de leur ville. Mais, en utilisant le nouvel outil de recherche de l’entreprise, Search Generative Experience (SGE), alimenté par l’IA, vous obtenez des informations totalement erronées. Par exemple, lorsque l’on recherche « Brooklyn AQI », l’IA indique que la qualité de l’air à Brooklyn est « bonne », fournissant un chiffre bien inférieur à la réalité.

À sa décharge, le robot a fourni une référence à AirNow, un site du gouvernement américain. Pourtant, lorsqu’on vérifie manuellement cette information, le chiffre réel est de 324, et non de 30 comme l’indiquait l’outil d’intelligence artificielle de Google.

Le porte-parole de Google déclare : « Bien que SGE soit ancré dans nos systèmes de classement de base, il s’agit d’une fonctionnalité expérimentale qui peut présenter des informations qui ne sont pas aussi pertinentes ou fraîches que d’autres résultats sur la page de résultats de recherche, ou apparaître sur une requête pour laquelle une réponse générative n’est pas la plus utile« .

Source : futurism