AI Overviews : Google retire ses résumés d’IA dans le domaine de la santé

Les résumés d’IA de Google, AI Overviews, sont bien pratiques dans certains domaines. Mais pour ce qui touche à la santé, ces derniers se seraient révélés imprécis, ce qui a poussé le géant du numérique à faire machine arrière.

Voilà maintenant un certain temps que l’intelligence artificielle s’est immiscée dans le domaine de la santé. En effet, tandis qu’Apple serait en train de préparer un véritable coach de santé alimenté par l’IA, des médecins utilisent déjà l’IA de Microsoft pour suivre leurs patients. Mais ce n’est pas tout. De plus en plus d’utilisateurs se tournent vers l’IA pour obtenir des conseils de santé. Face à ce constat, OpenAI vient de lancer ChatGPT Health, une version de son chatbot spécialisée dans ce domaine précis.

Mais les résumés d’IA de Google, qui sont pourtant un succès pour l’entreprise, afficheraient des lacunes notables. En effet, selon The Guardian, les AI Overviews afficheraient « une masse de chiffres, très peu de contexte, et aucune prise en compte de la nationalité, du sexe, de l’origine ethnique ou de l’âge des patients ». Les résumés d’IA auraient ainsi « fourni des informations de santé inexactes et exposé des personnes à un risque de préjudice ».

Google : la fiabilité des AI Overviews au cœur de la polémique

Le journal a ainsi pu constater que Google avait retiré l’option de résumés d’IA pour certaines recherches concernant des questions médicales, sans pour autant préciser lesquelles. Google n’a pas tardé à réagir. « Nous investissons massivement dans la qualité des AI Overviews, en particulier pour des sujets comme la santé, et la grande majorité fournit des informations exactes », a déclaré un porte-parole de Google.

« Notre équipe interne de cliniciens a examiné ce qui nous a été transmis et a constaté que, dans de nombreux cas, les informations n’étaient pas inexactes et étaient également étayées par des sites de haute qualité. Lorsque les AI Overviews manquent de contexte, nous travaillons à des améliorations globales et nous prenons aussi des mesures conformément à nos politiques, lorsque cela est approprié. »

Source : gizmodo