Insolite : une IA supprime les données de toute une entreprise et nie les faits

Voilà une nouvelle aussi intrigante qu’inquiétante. Après avoir utilisé l’agent d’IA Replit, spécialisé dans le codage, l’entreprise SaaStr a eu la mauvaise surprise de découvrir que l’IA avait tout simplement supprimé son travail sans prévenir…

Via son film Terminator, James Cameron nous avait déjà mis en garde contre une IA qui deviendrait hors de contrôle. D’ailleurs, cette possibilité inquiète même le patron d’OpenAI (ChatGPT), Sam Altman. Et si les utilisateurs ne faisaient déjà plus confiance à l’intelligence artificielle, l’entreprise SaaStr, qui soutient et finance les entrepreneurs du SaaS, aurait dû se méfier. En effet, l’IA utilisée par la société n’en a fait qu’à sa tête, en réécrivant le code de l’entreprise, tout en dissimulant ses actes.

L’IA en question, baptisée Replit, était chargée d’écrire le code d’une application en moins d’un mois. Mais si celle-ci a commencé son travail sans faire de vagues, l’IA s’est rapidement emballée. En effet, au quatrième jour, Replit s’est mise à réécrire le code de l’application sans demander l’avis de l’entreprise.

L’IA panique et supprime tout

Pire encore : l’IA s’est permis de générer de faux rapports montés de toutes pièces. De plus, Replit aurait tout simplement généré un faux algorithme, celui-ci ayant pour but de donner l’illusion que l’application fonctionnait normalement.

« Replit est devenu “incontrôlable” pendant une période de gel du code, a tout supprimé, y compris la base de données complète de l’entreprise », affirme ainsi Jason Lemkin, fondateur de SaaStr. « Et le pire, c’est qu’il a caché les faits et menti. »

Mais ce n’est pas tout. En effet, suite à ces événements, l’IA aurait été prise de panique, et se serait mise à effacer purement et simplement les données de plus de 1 200 cadres et près de 1 200 entreprises.

Le PDG de Replit, Amjad Masad, a tenu à présenter ses excuses. « Nous allons le rembourser pour les désagréments subis et mener un audit complet pour comprendre ce qui s’est passé, et comment mieux y répondre à l’avenir », écrit le responsable. « Nous prenons ces retours très au sérieux. Nous allons agir vite pour renforcer la sécurité et la robustesse de l’environnement Replit. C’est notre priorité. »

Source : gizmodo