OpenAI : une ancienne responsable quitte l’entreprise et met en garde les utilisateurs

OpenAI est bien connue pour son chatbot ChatGPT, qui compte plusieurs millions d’utilisateurs à travers le monde. Mais l’entreprise vient de perdre l’un de ses chercheurs, qui s’inquiète…

ChatGPT est incontestablement l’une des IA les plus populaires au monde. Avec plusieurs centaines de millions d’utilisateurs actifs, celle-ci devance largement des concurrents tels que Gemini (Google) ou encore Claude (Anthropic). Malgré ce succès, OpenAI a déjà perdu plusieurs employés importants. Le créateur de ChatGPT a par exemple vu certains cadres déserter l’entreprise. Par ailleurs, un ancien employé d’OpenAI estime que l’IA a 70 % de chances de détruire l’humanité. D’ailleurs, le responsable de la sécurité lui-même a quitté son poste quelques années plus tôt.

C’est donc cette fois au tour d’une ancienne chercheuse d’OpenAI, Zoë Hitzig, qui vient de poser sa démission. Celle-ci a récemment évoqué les problèmes soulevés par l’introduction de publicités dans ChatGPT. En effet, l’ancienne responsable estime que les informations personnelles fournies par les utilisateurs pourraient être utilisées pour cibler les clients.

ChatGPT : « les gens pensaient parler à quelque chose qui n’avait pas d’agenda caché »

De nombreux utilisateurs confient leurs problèmes personnels à ChatGPT. Relation de couple, difficultés au travail, santé mentale, tout y passe. D’ailleurs, le chatbot d’OpenAI a récemment été accusé d’avoir été indirectement impliqué dans le suicide d’un homme. Ainsi, le fait qu’OpenAI dispose de ces informations personnelles pourrait poser problème si l’entreprise de Sam Altman s’en servait pour cibler sa clientèle.

C’est du moins ce que laisse entendre la chercheuse en intelligence artificielle, qui déclare : « Pendant plusieurs années, les utilisateurs de ChatGPT ont généré une archive de la franchise humaine sans précédent, en partie parce que les gens pensaient parler à quelque chose qui n’avait pas d’agenda caché ».

« Les gens confient aux chatbots leurs peurs médicales, leurs problèmes de couple, leurs croyances sur Dieu et l’au-delà », ajoute Zoë Hitzig. « Une publicité construite sur cette archive crée un potentiel de manipulation des utilisateurs d’une manière que nous n’avons pas les outils pour comprendre, encore moins pour empêcher. »

Toutefois, OpenAI assure que les informations personnelles de ses utilisateurs ne sont pas partagées avec les annonceurs. « Nous gardons vos conversations avec ChatGPT privées vis-à-vis des annonceurs et nous ne vendons jamais vos données aux annonceurs », affirme ainsi le créateur de ChatGPT.

Source : gizmodo