Anthropic : des hackers utilisent l’IA Claude pour rançonner des entreprises

Décidément, l’intelligence artificielle n’est pas sans dangers. Cette fois, des hackers ont utilisé le chatbot Claude d’Anthropic pour accéder à des informations confidentielles, dans le but de rançonner les entreprises visées par ces attaques.

Si l’intelligence artificielle est largement bénéfique dans la plupart des situations, celle-ci peut également être utilisée à des fins malveillantes. On a par exemple pu voir des escrocs utiliser l’IA pour imiter la voix de n’importe qui. On pense également à un virus, généré par ChatGPT, qui serait capable de contourner un antivirus. Mais c’est cette fois au tour de Claude, un chatbot développé par Anthropic, de se retrouver au cœur d’une attaque informatique de grande ampleur.

Selon l’entreprise d’IA, les hackers auraient commencé par demander à Claude d’établir une liste d’entreprises présentant des vulnérabilités. Une fois cette liste obtenue, le chatbot aurait été utilisé pour générer un malware permettant aux hackers de voler des données sensibles. Parmi celles-ci, on retrouve notamment des numéros de Sécurité sociale, des coordonnées bancaires ou encore des dossiers médicaux confidentiels.

Une méthode bien rodée

Les hackers auraient ensuite rançonné les entreprises visées, en leur demandant de payer pour pouvoir récupérer les données subtilisées. Ainsi, sur une campagne ayant duré plusieurs mois, les pirates informatiques auraient dérobé entre 75 000 et 500 000 dollars par entreprise. Toutefois, Anthropic ne précise pas les noms des entreprises en question. On ne sait pas non plus si celles-ci ont bien payé la rançon demandée par les hackers.

À lire > Apple vous met au défi de hacker son IA, 1 million de dollars de récompense

Jacob Klein, responsable du renseignement sur les menaces chez Anthropic, déclare : « Nous disposons de solides garde-fous et de multiples couches de défense pour détecter ce type d’abus, mais des acteurs déterminés tentent parfois de contourner nos systèmes grâce à des techniques sophistiquées. »

Ce genre d’actes, bien que rares, serait de plus en plus nombreux. Rob Joyce, directeur de la cybersécurité de la NSA, a d’ailleurs déclaré que « Nous voyons déjà des éléments criminels et des acteurs étatiques utiliser l’IA […] Nous voyons des opérateurs de renseignement, nous voyons des criminels sur ces plateformes. »

Source : gizmodo