Intelligence Artificielle : des escrocs utilisent l’IA pour imiter la voix de n’importe qui

Suite à l’explosion de l’IA, des personnes malintentionnées ont désormais une nouvelle arme. Certains utilisent celle-ci pour générer la voix d’inconnus, afin de soutirer de l’argent à leurs familles.

L’intelligence artificielle, popularisée notamment par ChatGPT d’OpenAI, n’est pas sans danger. En effet, si celle-ci permet des avancées notables, comme rechercher de la vie sur Mars, elle peut également être utilisée de façon malveillante. À tel point qu’Elon Musk s’inquiète de son évolution trop rapide selon lui. Ainsi, certains escrocs se servent de cette technologie pour commettre des actes illégaux.

Ces personnes utilisent ainsi un générateur de voix d’IA.  Voicemod, une société espagnole spécialisée dans le domaine, décrit ainsi : “Une voix d’IA est une voix synthétique qui imite la parole humaine grâce à l’intelligence artificielle et à l’apprentissage profond. Ces voix peuvent être utilisées en convertissant du texte en parole, comme avec Voicemod Text to Song, ou de la parole en parole, ce qui est le cas de notre collection de voix d’IA.”

Intelligence Artificielle : les escrocs simulent des enlèvements d’enfants

La technologie est désormais utilisée pour améliorer ce que la Commission fédérale du commerce qualifie d’escroquerie à l’imposteur. Son principe est simple : les escrocs se font passer pour un membre de la famille ou un ami afin de soutirer les économies de leurs victimes, généralement des personnes âgées. Selon le Washington Post, plus de 5 100 cas d’escroquerie par téléphone ont été signalés, pour un total de 11 millions de dollars de pertes.

De plus, l’utilisation de ces logiciels est enfantine. Le modèle d’IA de synthèse vocale VALL-E de Microsoft permettrait ainsi de simuler la voix de n’importe qui avec seulement trois secondes d’audio. Hany Farid, criminologue, précise ainsi : « Il peut ensuite recréer la hauteur, le timbre et les sons individuels de la voix d’une personne pour créer un effet global similaire […] Cela nécessite un court échantillon de son pris dans des endroits tels que YouTube, des podcasts, des publicités, TikTok, Instagram ou des vidéos Facebook. »

Les escrocs utilisent cette technologie pour imiter la voix d’une personne, souvent un jeune enfant, afin de faire croire à un parent que l’enfant est retenu contre une rançon. L’escroc demande alors une somme d’argent en échange de sa libération.

Source : lifehacker