OpenAI : une haute responsable quitte l’entreprise à cause des choix guerriers du créateur de ChatGPT

Caitlin Kalinowski, jusqu’à présent responsable du matériel et de la robotique pour OpenAI, vient de présenter sa démission. Celle-ci pointe du doigt l’accord passé avec le Pentagone, qui permettrait l’utilisation de sa technologie dans l’armée.

Jeux vidéo, réseaux sociaux, cinéma, médecine… l’intelligence artificielle est partout. Mais celle-ci est également en train de s’immiscer dans le militaire. En effet, si confier les codes nucléaires à une IA provoque d’inquiétants résultats, cela n’empêche pas cette technologie d’être utilisée dans un cadre militaire. On a par exemple pu voir l’armée américaine tester une mitrailleuse alimentée par l’IA. Mais cette fois, les choses vont encore plus loin.

En effet, après avoir mis de côté Anthropic, le département de la Défense américain a finalement passé un accord avec OpenAI. Le Pentagone cherche en effet à utiliser la technologie du créateur de ChatGPT à des fins militaires et de sécurité nationale. Cet accord a provoqué une vague de protestations, ainsi que le départ de Caitlin Kalinowski.

OpenAI : « pas de surveillance domestique et pas d’armes autonomes »

« Cette décision n’a pas été facile. L’IA a un rôle important à jouer dans la sécurité nationale », écrit la responsable. « Mais la surveillance des Américains sans contrôle judiciaire et l’autonomie létale sans autorisation humaine sont des lignes qui méritaient davantage de réflexion que ce qui a été fait. »

Toutefois, celle-ci ne pointe pas directement le patron d’OpenAI, Sam Altman, pour lequel elle aurait « un profond respect ». Caitlin Kalinowski affirme ainsi qu’« il s’agit d’une question de principe, pas de personnes ». Récemment, une autre responsable a également quitté l’entreprise, tout en mettant en garde les utilisateurs.

« Ces sujets sont trop importants pour que des accords ou des annonces soient faits dans la précipitation », a-t-elle expliqué, tout en précisant que le problème est que « l’annonce a été précipitée sans que les garde-fous soient définis ».

Face à cette polémique, OpenAI a affirmé avoir posé certaines conditions. Parmi celles-ci, l’entreprise de Sam Altman ne veut « pas de surveillance domestique et pas d’armes autonomes ». « Nous reconnaissons que ces questions suscitent des opinions fortes et nous continuerons à dialoguer avec nos employés, les gouvernements, la société civile et les communautés dans le monde entier », déclare le créateur de ChatGPT.

Source : futurism