OpenAI : le Canada demande des comptes au créateur de ChatGPT

Le gouvernement canadien vient de convoquer des responsables d’OpenAI. Le créateur de ChatGPT est accusé de ne pas avoir prévenu les forces de l’ordre dans le cadre d’une fusillade de masse.

Aussi efficace soit-il, le plus célèbre des chatbots s’est régulièrement retrouvé devant la justice. Un utilisateur a par exemple porté plainte contre OpenAI pour « psychose induite par l’IA ». Un autre utilisateur a même terminé à l’hôpital après avoir discuté avec ChatGPT. Pire encore : ChatGPT serait indirectement impliqué dans le suicide d’un homme, qui a longuement discuté avec le chatbot d’OpenAI avant de mettre fin à ses jours. Mais il s’agit ici d’une affaire d’une gravité sans précédent.

Le 10 février dernier, une tuerie de masse a eu lieu à Tumbler Ridge, une petite ville de Colombie-Britannique. Le tireur présumé, Jesse Van Rootselaar, se serait rendu dans une école avant d’abattre plusieurs personnes. Ce dernier aurait eu auparavant un comportement suspect via ChatGPT, ce qui a poussé certains employés d’OpenAI à demander à la direction d’avertir les forces de l’ordre.

ChatGPT : « Nous nous attendons à ce que des changements soient mis en œuvre. »

Il est en effet important de rappeler qu’OpenAI a précédemment affirmé qu’elle préviendrait les forces de l’ordre en cas de danger imminent. Mais, bien que le compte du tireur ait été suspendu, l’entreprise de Sam Altman n’aurait pas prévenu la police. Dans ce cadre, le Canada vient de convoquer plusieurs responsables de l’entreprise d’IA.

« Ces informations étaient profondément troublantes, notamment celles affirmant qu’OpenAI n’a pas contacté les forces de l’ordre en temps voulu », affirme le ministre canadien de l’Intelligence artificielle, Evan Solomon. « Nous allons organiser une réunion afin d’obtenir des explications sur leurs protocoles de sécurité, sur les cas dans lesquels ils décident d’escalader la situation et sur les seuils à partir desquels ils préviennent la police, afin de mieux comprendre ce qui se passe et ce qu’ils font. »

Le ministre de la Justice, Sean Fraser, aurait ainsi demandé au créateur de ChatGPT de prendre des mesures afin d’éviter que ce genre d’incidents ne se reproduise. « Le message que nous avons transmis, sans la moindre ambiguïté, est que nous nous attendons à ce que des changements soient mis en œuvre », a-t-il déclaré. « S’ils ne sont pas apportés très rapidement, le gouvernement prendra lui-même des mesures. »

Il est toutefois important de rappeler qu’OpenAI a déjà contacté les forces de l’ordre lorsque la situation l’imposait. Le créateur de ChatGPT a par exemple contacté la police lorsqu’un adolescent a demandé au chatbot des conseils pour tuer son ami.

Source : engadget