Images générées par l’IA : des chercheurs auraient trouvé un excellent moyen de les détecter
Les images générées par l’intelligence artificielle s’améliorent chaque jour, à tel point qu’il est difficile de distinguer le vrai du faux. Mais une équipe de chercheurs pense avoir trouvé la parade…
Si les images générées par l’IA ne pourront pas être protégées par des droits d’auteur, cela n’empêche pas ces dernières de pulluler sur Internet. Et parfois, les conséquences peuvent être désastreuses. On a par exemple pu voir les marchés boursiers chuter suite à une fausse image d’explosion du Pentagone, elle aussi générée par l’IA. Et, si Microsoft veut lutter contre les deepfakes générés par l’IA, leur détection devient de plus en plus difficile.
En effet, des générateurs d’images, tels que Images 2.0 d’OpenAI, ou encore Grok, sont de plus en plus performants. Il n’y a pas si longtemps, ces derniers commettaient des erreurs facilement identifiables. Parmi celles-ci, on retrouve par exemple des doigts manquants, ou encore des inscriptions erronées.
Mais les générateurs d’images apprennent vite, très vite. Et il est aujourd’hui particulièrement difficile de distinguer le vrai du faux, et ce, même en utilisant des logiciels de détection d’IA. Mais une nouvelle étude, publiée dans le Proceedings of the National Academy of Sciences (PNAS), tente d’apporter des réponses.
Image générée par l’IA : le diable ne se cache pas dans les détails
Tout d’abord, il ne faut pas oublier que l’IA ne crée pas des images à partir de rien. Celle-ci s’appuie sur des centaines de milliers de photos pour générer, entre autres, des visages humains. Mais l’IA aurait tendance à « embellir » ces visages, en proposant par exemple des personnes aux traits bien trop parfaits et symétriques.
Et, selon les chercheurs, les humains sont à même de reconnaître d’instinct un visage généré par l’IA. « Les individus détectent automatiquement ces différences et jugent les visages générés par l’IA comme étant plus symétriques, mieux proportionnés et plus séduisants que les visages humains, mais aussi moins distinctifs, moins mémorables et moins expressifs », expliquent les chercheurs.
Ainsi, les chercheurs expliquent que, au lieu de se focaliser sur les détails, l’impression globale doit nous permettre de distinguer le vrai du faux. « Nous pensons que le fait d’orienter l’attention vers les impressions globales a permis aux participants de mieux percevoir la manière dont ces qualités distinguent les visages générés par l’IA des visages humains », concluent les chercheurs.
Source : gizmodo