Des sons inaudibles cachés dans des podcasts peuvent aider les hackers à pirater votre téléphone, faites attention

Des chercheurs ont découvert que de simples sons, inaudibles pour l’oreille humaine, peuvent interagir avec l’assistant vocal d’IA de votre téléphone. Les pirates pourraient ainsi accéder à des données sensibles.

Les assistants vocaux d’IA, tels que la très attendue refonte de Siri, sont bien pratiques. Mais il ne faut pas oublier que l’intelligence artificielle elle-même peut être utilisée à des fins malveillantes. Des hackers utilisent par exemple l’IA pour rendre leurs malwares indétectables, et sont même en mesure d’utiliser Claude pour rançonner des entreprises. Mais cette fois, ouvrir une simple vidéo YouTube ou un podcast Spotify pourrait compromettre votre appareil.

C’est en tout cas ce qu’a pu constater une équipe de chercheurs basée en Chine et à Singapour. Ces derniers évoquent un « audio adversarial », un son inaudible pour les êtres humains. Mais celui-ci serait capable de transmettre des commandes aux assistants vocaux d’IA. Par la suite, les cybercriminels seraient en mesure d’accéder à des données sensibles, telles que des comptes bancaires. D’ailleurs, ChatGPT lui-même vous propose de gérer votre argent.

Un phénomène inquiétant

« Il suffit d’une demi-heure pour entraîner ce signal et, comme il est indépendant du contexte, vous pouvez ensuite l’utiliser pour attaquer le modèle ciblé à n’importe quel moment, peu importe ce que dit l’utilisateur », explique Meng Chen, auteur principal de l’étude. « Ces défenses ponctuelles ont du mal à résister à notre attaque, car nous avons découvert qu’il est très difficile pour ces modèles de distinguer l’intention normale de l’utilisateur de notre attaque adversariale. »

Toutefois, les chercheurs affirment que ces attaques visent principalement les modèles d’IA open source. Mais il ne faut pas oublier que de grandes entreprises, telles que Microsoft, utilisent justement des IA open source.

« Cette étude évalue la résilience des modèles à travers des interactions directes et contrôlées avec le modèle lui-même, ce qui nous aide à améliorer notre approche de la robustesse des modèles », explique Microsoft. « En pratique, les modèles d’IA sont souvent intégrés dans des applications utilisateur, et nous fournissons aux développeurs des outils et recommandations leur permettant d’ajouter des couches de protection supplémentaires afin d’aider à sécuriser les utilisateurs. »

Source : futurism