Intelligence artificielle : Meta interdit aux adolescents de discuter avec son IA

Il semblerait que Meta mette les bouchées doubles pour protéger les plus jeunes face aux dangers de l’IA. Le propriétaire de Facebook, Instagram et Threads vient en effet de « suspendre temporairement » l’accès des mineurs à ses personnages d’IA.

Aussi pratique soit-elle, l’intelligence artificielle n’est pas sans dangers. GPT-4o fait par exemple l’objet d’une plainte, le chatbot d’OpenAI étant accusé d’avoir joué un rôle dans le suicide d’un homme. Un autre utilisateur a d’ailleurs fini à l’hôpital après avoir discuté avec ChatGPT. Dans ce cadre, plusieurs entreprises, dont le propriétaire d’Instagram, Facebook et WhatsApp, cherchent à protéger leurs utilisateurs, et notamment les plus jeunes.

Accusée de perturber la santé mentale des plus jeunes, Meta se prépare à prendre des mesures pour améliorer les choses. En effet, si Meta va autoriser les mineurs à utiliser Horizon Worlds, l’entreprise de Mark Zuckerberg s’apprête à refondre son IA pour protéger les plus jeunes.

Meta : le contrôle parental arrive bientôt

Dans ce cadre, Meta compte mettre en place une nouvelle version de son IA dotée d’un système de contrôle parental. Les parents pourront, entre autres, garder un œil sur les thèmes abordés par leurs adolescents avec les personnages d’IA, voire même empêcher leurs enfants de discuter avec l’IA de Meta.

En attendant le lancement de cette nouvelle IA, Meta a pris une décision radicale : suspendre purement et simplement l’accès à son IA pour les plus jeunes :

« Depuis que nous avons annoncé en octobre notre intention de mettre en place des contrôles parentaux pour les personnages d’IA, nous avons commencé à développer une nouvelle itération des personnages d’IA de manière générale (c’est-à-dire pour les adultes comme pour les adolescents) », explique Sophie Vogel, porte-parole de Meta.

« Plutôt que de développer deux fois les contrôles parentaux (pour les personnages d’IA actuels et pour la nouvelle itération), nous suspendons l’accès des adolescents à la version actuelle pendant que nous nous concentrons sur la nouvelle version. Lorsque cette nouvelle version sera disponible pour les adolescents, elle inclura des contrôles parentaux. »

Meta n’a pas annoncé de date de sortie pour son nouveau système d’IA. L’entreprise de Mark Zuckerberg a simplement déclaré que cette fonctionnalité « arrivera bientôt ».

Source : theverge