Incident d’IA en milieu scolaire à Baltimore
Le lundi dernier, Taki Allen, 16 ans, qui venait de terminer un entraînement de football américain devant la Kenwood High School de Baltimore, s’est retrouvé au cœur d’un raid policier après une alerte liée au système de surveillance par intelligence artificielle utilisé par l’établissement.
Selon les éléments relatés, l’alerte aurait été déclenchée lorsque le jeune homme aurait froissé un paquet de chips quelques instants auparavant. Le système d’alerte, développé par la société Omnilert et déployé dans l’école, aurait confondu le paquet Doritos avec une arme à feu, ce qui a immédiatement transmis l’alerte aux forces de l’ordre.
Réaction policière et déroulé de l’intervention
La police est arrivée avec environ huit véhicules. Les agents seraient sortis, armes pointées sur le jeune homme, en lui ordonnant de se mettre à terre. Taki Allen a levé les mains et a demandé: « Que se passe-t-il ? » avant que les images ne soient examinées pour clarifier la situation.
Vérification humaine et explication officielle
La directrice de l’établissement, Myriam Rogers, a expliqué que le système repose sur une vérification humaine et que, dans ce cas précis, l’alerte a été déclenchée et des opérateurs ont été sollicités pour évaluer la scène. Elle a ajouté que cette démarche vise à prévenir les fausses alarmes, tout en reconnaissant l’impact émotionnel sur les personnes concernées.
Impact sur l’élève et réponses de l’établissement
Taki Allen se dit profondément bouleversé et affirme ne plus se sentir en sécurité. Il préfère désormais rester à l’intérieur de l’école après l’entraînement afin d’éviter les caméras et déplore le manque apparent de réactivité et d’empathie de la direction, indiquant que la directrice ne l’a contacté qu’au bout de trois jours.