L’intelligence artificielle pourrait bientôt s’effondrer sur elle-même, selon ces chercheurs

De nos jours, une importante quantité du contenu présent en ligne est déjà « contaminée » par l’IA. Problème : pour s’entraîner, l’IA a besoin de ce contenu, dont la qualité serait en train de baisser.

De nombreux sites profitent de l’IA pour générer du contenu à moindres frais. On pense par exemple à CNET qui, suite à une utilisation abusive de l’IA, a du mal à se vendre. D’ailleurs, plus de la moitié du contenu présent sur le web serait généré par l’IA, à tel point qu’une étude estime que l’intelligence artificielle serait en train de ruiner Internet. Mais cette omniprésence pose un problème bien plus grave, qui concerne l’intelligence artificielle elle-même.

En effet, une IA a besoin d’une grande quantité de données pour s’entraîner, c’est bien connu. Mais quand celle-ci s’entraîne en utilisant du contenu ayant lui-même été généré par l’IA, la technologie entre dans un cercle vicieux qui, à terme, pourrait provoquer l’effondrement de l’intelligence artificielle.

Internet serait-il “contaminé par l’IA générative” ?

Maurice Chiodo, chercheur associé au Centre for the Study of Existential Risk de l’université de Cambridge, estime ainsi que les entreprises d’IA devraient remonter aux résultats datant d’avant l’explosion de ChatGPT, en 2022. Selon lui, passé cette date, l’Internet est définitivement « contaminé ».

« Mais si vous collectez des données avant 2022, vous pouvez être assez sûr qu’elles ne sont que très peu, voire pas du tout, contaminées par l’IA générative », affirme le chercheur. « Tout ce qui est antérieur à cette date est “sûr, correct, propre”, tout ce qui est postérieur est “sale”. »

Le chercheur affirme par ailleurs qu’un nettoyage de grande ampleur est nécessaire. « À l’heure actuelle, on ne sait pas dans quelle mesure l’effondrement des modèles sera un problème, mais si c’est le cas et que nous avons contaminé cet environnement de données, le nettoyage sera extrêmement coûteux, voire impossible », ajoute-t-il.

« Nous sommes actuellement dans une première phase de réglementation où nous nous éloignons un peu de la réglementation parce que nous pensons que nous devons être innovants », a déclaré Rupprecht Podszun, professeur de droit civil.

Source : futurism