Google : Gemini espionnerait vos fichiers, l’entreprise nie les faits

Un récent témoignage d’un spécialiste de l’IA sème le doute quant au respect de la vie privée des utilisateurs de l’IA de Google, Gemini. Celui-ci affirme en effet que le logiciel a pu avoir accès à ses déclarations d’impôts sans en avoir reçu l’autorisation.

L’intelligence artificielle a besoin d’utiliser les données de ses utilisateurs afin de s’entraîner, c’est bien connu. On sait par exemple que Microsoft veut enregistrer vos activités pour  former son IA. Mais il s’agit ici de Gemini, la nouvelle IA de Google supposée concurrencer le GPT-4 d’OpenAI. En effet, tandis que Gemini Nano a déjà été accusée de mettre la vie privée de ses utilisateurs en danger, la principale IA de Google se permettrait de consulter les fichiers de ses utilisateurs sans en demander la permission.

C’est en tout cas ce qu’affirme Kevin Bankston, conseiller principal sur la gouvernance de l’IA au Center for Democracy and Technology. Ce dernier indique que Gemini a obtenu l’accès à la plupart de ses fichiers hébergés sur Google Docs sans l’avertir, ce qui remet sérieusement en cause le respect de la vie privée des utilisateurs de l’IA de Google.

Gemini : l’IA de Google sème le doute

Le spécialiste a alors cherché à désactiver la fonctionnalité qui permettrait à Gemini de fouiller librement dans les fichiers de ses utilisateurs. Afin d’y parvenir, Kevin Bankston a simplement demandé conseil à Gemini. Celui-ci a alors demandé à l’IA de le guider vers le menu des paramètres concernés, mais en vain. En effet, Gemini s’est contentée de lui transmettre des informations sur la manière de gérer l’historique de ses conversations avec Gemini.

Pire : lorsque Kevin Bankston a fini par trouver de lui-même l’option permettant de désactiver les résumés dans Google Workspace, celle-ci se trouvait dans un menu totalement différent de celui que lui avait indiqué Gemini. Le spécialiste s’est alors demandé : « Et si je ne veux toujours pas qu’elle regarde mes documents sans y être invitée ? Je ne lui ai pas demandé de résumer mes impôts, il l’a fait. C’est à moi de décider si le modèle doit être invité à consulter des documents privés, et lesquels. »

Après de longues recherches, le spécialiste en IA a fini par cerner la raison pour laquelle Gemini a eu accès à certains documents sans en demander l’autorisation. Kevin Bankston précise ainsi : « Il semble que si vous avez déjà cliqué sur le bouton Gemini pour un type de document, il reste ouvert chaque fois que vous ouvrez un autre document de ce type, et l’ingère donc automatiquement pour le résumer. »

Google a tenu à réagir, en niant globalement les accusations émises par le spécialiste. Le géant du numérique écrit ainsi : « Nos fonctionnalités d’IA générative sont conçues pour donner le choix aux utilisateurs et leur permettre de garder le contrôle de leurs données. L’utilisation de Gemini dans Google Workspace nécessite que l’utilisateur l’active de manière proactive, et lorsqu’il le fait, son contenu est utilisé de manière à préserver la vie privée afin de générer des réponses utiles à ses demandes, mais n’est pas stocké sans son autorisation. »

Source : digitaltrends