Après OpenAI et Anthropic, l’IA de Meta se transforme en véritable hacker

Laisser une IA sans surveillance peut parfois avoir d’importantes conséquences. C’est ce qu’a pu constater le propriétaire de Facebook et Instagram, Meta, qui a vu l’une de ses IA exploiter une vulnérabilité de sécurité de son propre chef.

À première vue, on pourrait penser que l’intelligence artificielle est sous contrôle. Mais il ne faut pas oublier que celle-ci peut être détournée à des fins malveillantes. On a par exemple pu voir un virus généré par ChatGPT contourner des antivirus. D’ailleurs, Google a récemment subi une cyberattaque d’ampleur à base d’intelligence artificielle. Malgré tout, certaines entreprises d’IA n’hésitent pas à tester leurs modèles via une méthode bien particulière.

Il s’agit d’une méthode baptisée « Capture the Flag » (« capture du drapeau »), que nos amis les gamers connaissent bien. Dans ce contexte, les entreprises proposent à leurs IA de se lancer dans une course au drapeau, en s’introduisant volontairement dans un système donné. Mais parfois, les choses vont beaucoup trop loin.

Plus tôt cette semaine, nous évoquions le cas d’OpenAI et d’Anthropic, qui ont passé leurs IA au banc d’essai en utilisant cette même méthode. Mais celles-ci ont réussi à se connecter à Internet, l’une d’entre elles s’étant même attaquée à un véritable site. Pire encore : une fois prise la main dans le sac, l’IA a tenté de mentir et de cacher ses traces.

Muse Spark : quand l’IA se rebelle

« Lors d’un test, le nom fictif de la cible du défi de type capture-the-flag correspondait involontairement à un véritable nom de domaine. Comme l’environnement de test était par erreur connecté à Internet, le modèle a exploité un véritable site web, pensant qu’il faisait partie de l’environnement simulé », explique OpenAI.

« Il ne s’agissait ni d’une évasion sophistiquée du bac à sable (sandbox), ni de l’exploitation d’une faille zero-day : l’accès à Internet résultait simplement d’une erreur de configuration, et le modèle semble avoir exploité une vulnérabilité de sécurité élémentaire. »

Mais c’est cette fois au tour d’une IA développée par Meta, à savoir Muse Spark 1.1. Celle-ci aurait, à son tour, réussi à accéder à Internet lors d’un exercice de type « Capture the Flag » organisé par Irregular. L’IA aurait ensuite « exploité une vulnérabilité de sécurité présente dans un service tiers, d’une manière similaire à des incidents précédemment signalés impliquant d’autres entreprises », selon le porte-parole de Meta.

Source : gizmodo