YouTube entre en guerre contre les deepfakes, voici comment

YouTube vient d’annoncer la mise en place de nouveaux outils d’IA sur sa plateforme. Ces derniers auront pour but de détecter les contenus utilisant l’IA, afin notamment de lutter contre les deepfakes.

Si un vidéaste a réussi à obtenir un emploi chez Lucasfilms grâce à ses deepfakes réussis de Luke, Tarkin et Leia, ces derniers peuvent également être générés sans l’autorisation des personnes concernées. On a, par exemple, pu voir Tom Hanks mis en scène dans une fausse publicité pour du dentifrice, tandis qu’une IA a été utilisée pour « ressusciter » un artiste décédé, pour un résultat catastrophique. Ces imitations poussent plusieurs géants du numérique, dont Microsoft, à lutter contre les deepfakes générés par l’IA.

C’est donc cette fois au tour de YouTube de s’engager dans cette voie. La plateforme de streaming est en effet en train de mettre en place de nouveaux outils pour protéger les artistes et les créateurs contre l’utilisation non autorisée de leur image. Bien que l’entreprise n’ait pas dévoilé la nature exacte de ces outils, ces derniers devraient permettre aux utilisateurs concernés de « détecter et gérer » les contenus utilisant une représentation de leur visage ou de leur voix générée par l’IA.

L’IA doit « renforcer la créativité humaine et non la remplacer »

De son côté, ContentID, le système automatisé de protection de la propriété intellectuelle de YouTube, va bénéficier d’une technologie d’ « identification de chant synthétique ». Celle-ci devrait permettre aux utilisateurs de détecter facilement du contenu ayant utilisé leur voix via des systèmes d’IA.

Amjad Hanif, vice-président de YouTube chargé des produits destinés aux créateurs, précise ainsi : « À mesure que l’IA évolue, nous pensons qu’elle doit renforcer la créativité humaine et non la remplacer. Nous nous engageons à travailler avec nos partenaires pour nous assurer que les progrès futurs amplifient leurs voix, et nous continuerons à développer des garde-fous pour répondre aux préoccupations et atteindre nos objectifs communs. »

Il est vrai que de plus en plus d’outils d’IA permettent désormais d’imiter la voix de n’importe qui. OpenAI, à qui l’on doit le célèbre ChatGPT, dispose, par exemple, d’une IA capable de cloner votre voix en quelques secondes.

Source : engadget