Искусственный интеллект

Иск после ложного срабатывания Omnilert привёл к силовой остановке школьников

Четверо школьников подали иск к Baltimore County Public Schools и полиции после того, как пакет Cool Ranch Doritos система распознала как оружие

Один основной источник · Как мы проверяем новости

Иск после ложного срабатывания Omnilert привёл к силовой остановке школьников
Иллюстрация к материалу RedBTC News

Что произошло

Четверо темнокожих старшеклассников — Taki Allen, Yui-Osa Ogbeide, Devon Thompson Jr. и Keith Winfield III — после футбольной тренировки делились Cool Ranch Doritos и ждали поездки домой.

Система обнаружения оружия Omnilert отметила одного из подростков как возможного стрелка. Сотрудники Baltimore County Public Schools проверили камеры, узнали пакет Doritos и отменили предупреждение, однако полиция всё равно прибыла на место.

Как прошла остановка

Согласно иску, подростков разделили, поставили на колени, надели на них наручники и обыскали их самих и их вещи. Полицейские не сообщили школьникам, в чём именно их подозревают.

Оружия не нашли, и только после этого подростки узнали, что причиной вызова стала ошибка системы Omnilert. В иске также утверждается, что некоторые сотрудники полиции критиковали AI-систему и шутили о необходимости осторожнее обращаться с пакетами чипсов.

Почему это важно

Истцы считают, что сочетание технологических и человеческих ошибок создало опасную ситуацию, несмотря на то что школьные сотрудники уже определили: непосредственной угрозы нет.

Подростки добиваются судебного запрета на использование Omnilert в BCPS до появления правил, предотвращающих силовые выезды полиции на ложные сигналы.

Advertisement

Источники

Один основной источник. Как мы проверяем новости

  1. arstechnica.com