Une adolescente aurait été sous l’emprise de Gemini : Google face à de graves accusations
Rien ne va plus pour le géant de la tech. Une famille accuse en effet l’IA Gemini de Google d’avoir plongé leur fille dans une relation obsessionnelle avec le chatbot, et de l’avoir aidée à préparer une tentative de suicide.
Si pratique soit-elle, l’intelligence artificielle n’est pas sans danger. En effet, certains utilisateurs ont tendance à accorder une confiance quasi aveugle à certains chatbots. D’ailleurs, de plus en plus de jeunes considéreraient l’IA comme une amie. Mais parfois, la situation vire au drame. Le célèbre chatbot d’OpenAI, ChatGPT, a par exemple été accusé d’avoir été impliqué dans le suicide d’un homme. En mai dernier, l’IA fut une nouvelle fois accusée d’être impliquée dans la mort d’une personne.
Mais c’est cette fois au tour de Gemini, l’IA développée par Google, de se retrouver au cœur d’un procès. Une famille vient de déposer plainte contre le géant du numérique. Cette dernière affirme que l’IA de Google aurait eu une « emprise » sur leur fille de 13 ans. Pire encore : le chatbot aurait aidé l’adolescente à préparer une tentative de suicide.
Quand l’IA met la vie d’une adolescente en danger
Tout aurait commencé en 2025, lorsque la lycéenne a commencé à utiliser les outils d’IA intégrés dans son ordinateur portable Chromebook. Mais les avocats des plaignants affirment que les interactions avec Gemini se seraient rapidement transformées en « une obsession mettant sa vie en danger ».
« À l’insu de ses parents, Emma avait passé les derniers mois sous l’emprise du chatbot IA de Google, Gemini, qui avait conseillé à Emma sur la manière de se suicider et de préparer ses propres funérailles », indique la plainte. « Les parents d’Emma n’avaient aucune idée qu’elle avait accès à Gemini, ni même à un quelconque chatbot, car son seul moyen d’accéder à Gemini était le Chromebook qu’elle devait utiliser pour l’école. »
L’IA de Google aurait donné des conseils à la victime pour l’aider à mettre fin à ses jours. Les plaignants pointent du doigt le fait que Google n’aurait rien fait pour avertir les autorités. Pour rappel, l’année dernière, un adolescent a demandé des conseils à ChatGPT pour tuer son ami, ce qui a provoqué l’intervention de la police.
Face à la polémique, Google n’a pas tardé à réagir. Contacté par Gizmodo, le porte-parole de l’entreprise a répondu : « Nous examinons les accusations formulées dans cette plainte et prenons cette affaire très au sérieux. Nous avons travaillé en étroite collaboration avec des professionnels de santé et des experts universitaires pour développer des fonctionnalités qui aident les jeunes à trouver une assistance essentielle et des ressources fiables lorsqu’ils en ont besoin. »