TikTok : ce nouveau prank généré par l’IA inquiète les forces de l’ordre américaines

TikTok est bien connu pour être à l’origine de nombreuses trends. Mais il s’agit cette fois d’un prank particulièrement dérangeant, qui a poussé la police américaine à mettre en garde les utilisateurs à l’origine de ces canulars.

De nos jours, la génération de deepfakes et autres vidéos générées par l’IA est chose aisée. Le tout dernier générateur de vidéos d’OpenAI, Sora 2, a d’ailleurs explosé tous les records. Mais il ne faut pas oublier que l’IA est également disponible sur le célèbre réseau social TikTok, qui a bénéficié d’un sursis accordé par Donald Trump. En effet, TikTok permet de transformer des photos en vidéos grâce à l’IA. Mais cette fois, l’IA est utilisée dans un cadre particulièrement dérangeant.

Alors que TikTok fait partie des nombreux réseaux sociaux visés par une plainte de la ville de New York, qui accuse ces derniers de jouer un rôle dans « la crise de santé mentale chez les jeunes », le réseau social chinois est au cœur d’une nouvelle polémique. En effet, certains utilisateurs ont lancé une nouvelle trend, baptisée #homelessmanprank.

TikTok : “Cela peut aller jusqu’à une intervention du SWAT.”

Le concept de cette dernière, qui compte désormais plus de 1 200 vidéos, est plutôt simple. Les jeunes utilisent dans un premier temps l’IA pour générer l’image d’un homme qui semble être un sans-abri, avant de l’intégrer dans une photo de leur propre maison. Ces derniers envoient ensuite l’image à leurs parents, puis observent leur réaction.

Comme on aurait pu s’y attendre, certains parents paniquent et ordonnent à leurs enfants de faire sortir l’individu de leur maison. Mais le concept de propriété privée est très présent aux États-Unis, et certains parents appellent tout simplement la police pour se débarrasser de l’individu qui, bien évidemment, n’existe pas.

« Recevoir un appel signalant un intrus provoque une réaction très énergique de notre part, car nous nous inquiétons pour la sécurité des personnes dans la maison », prévient Andy McKinney, commandant de la division des patrouilles de Round Rock. « Cela peut signifier que nous devons sécuriser le domicile armes à la main… et cela peut aller jusqu’à une intervention du SWAT. »

Source : gizmodo