"Нейросети Amazon назвали членов Конгресса США правонарушителями"

Хотя снимков членов конгресса не было в данной базе, система выдала 28 ошибочных совпадений.

Американский союз защиты гражданских свобод (ACLU) провел тестирование системы распознавания лиц Rekognition от Amazon. Но точность работы таковых систем порой оставляет желать лучшего, что подтвердил эксперимент, проведенный активистами Американского Союза гражданских свобод (ACLU).

В рамках сотрудничества с отдельными полицейскими управлениями США Amazon предоставляет им систему распознавания лиц «Rekognition». Они загрузили фотографии 25 тыс. арестованных жителей вперемежку с изображениями сенаторов.

Активисты «скормили» системе фотографии 20-ти 5-ти тыс. правонарушителей, а потом «натравили» обученный метод на фотографии конгрессменов.

Ежели учесть тот факт, что система Rekognition позиционируется компанией Amazon как инструмент в том числе и для милиции, то цена похожих ошибок ИИ может быть очень высокой. В конечном итоге робот окончательно запутался и записал в правонарушители 28 парламентариев.

«Идентификация — действительная или нет — может стоить людям свободы или даже жизни».

Проверка ACLU также показала, что система Amazon склонна к расовой дискриминации, подобно некоторым подобным алгоритмам. При всем этом система была уверена в правоте совпадений на 80%.

Не менее положительный опыт работы случился у системы распознавания лиц NtechLab.

Ошибки по Фрейду ИИ от Amazon перепутал политиков с преступниками

1 Star2 Stars3 Stars4 Stars5 Stars (Понравилась статья? Поставь оценку.)
Загрузка...

Введите Ваш адрес электронной почты, чтобы получать новые статьи:

Написать комментарий