Ces caméras de surveillance américaines boostées à l’IA font n’importe quoi, la contestation monte

Aux États-Unis, plus d’une centaine de milliers de caméras fournies par Flock Safety sont chargées de signaler les infractions routières. Mais il semblerait que celles-ci aient besoin d’une petite révision…

De nos jours, l’intelligence artificielle est partout, y compris dans les caméras. Et pourtant, celle-ci n’est pas infaillible, loin de là. En effet, si l’IA pourrait nous aider à comprendre l’Univers, cette technologie commet parfois des erreurs. Utilisée dans le cadre d’un procès, on a par exemple vu l’ancienne IA Bard de Google inventer des affaires. D’ailleurs, après avoir largement mis en avant son IA Copilot, Microsoft vous demande maintenant de ne pas vous y fier.

Mais cela n’a visiblement pas empêché l’entreprise américaine Flock Safety d’intégrer cette technologie dans ses caméras de surveillance. Ainsi, pas moins de 120 000 caméras Flock seraient réparties dans 49 États américains. Celles-ci sont chargées de prévenir les forces de l’ordre lorsqu’une plaque d’immatriculation associée à une activité criminelle est repérée.

Quand l’IA commet toujours plus d’erreurs

Afin de mener à bien cette mission, les caméras Flock sont équipées d’un lecteur automatique de plaques d’immatriculation. Mais, selon un nouveau rapport, ces caméras alimentées par l’IA seraient loin d’être au point.

À Roseville, en Californie, la police locale a reçu 1 427 alertes provenant des caméras Flock entre 2023 et 2024. Mais, selon le rapport, les caméras se seraient trompées à de nombreuses reprises. Ainsi, dans 71 % des cas, les caméras de Flock Safety auraient mal lu les plaques d’immatriculation. Cela n’est guère surprenant quand on sait que l’IA serait même incapable de lire l’heure correctement.

Pourtant, Flock Safety met en avant la précision de ses caméras. « Dans le cadre de nos processus internes d’amélioration, nous avons récemment effectué des tests de précision. », explique l’entreprise. « Dans des conditions de déploiement optimales, nous mesurons un taux de capture supérieur à 99 % par temps clair comme sous la pluie, une précision OCR supérieure à 96 % et une précision de plus de 97 % pour l’identification de l’État d’immatriculation. »

Ainsi, la municipalité de Roseville aurait tout simplement mal utilisé les caméras dopées à l’IA. « Roseville avait mis en place un déploiement assez particulier, basé sur ses propres préférences, avec du matériel plus ancien et des emplacements d’installation non standard qui ont conduit à placer les caméras plus loin des véhicules et plus haut que ce que nous recommandons habituellement », affirme Flock Safety.

Source : gizmodo