В США обнаружена расовая предвзятость у технологии распознавания лиц

Согласно опубликованному в четверг правительственному исследованию США, многие системы распознавания лиц ошибочно распознают цветных людей чаще, чем представителей белой расы, что может усилить скептицизм в отношении технологий, широко используемых правоохранительными органами.

Исследование, проведенное Национальным институтом стандартов и технологий (NIST), показало, что при проведении поиска в базе данных определенного типа, известного как сопоставление «один к одному», многие алгоритмы распознавания лиц неверно идентифицируют афроамериканцев и азиатов в 10-100 раз чаще, чем лица представителей белой расы.

Исследование показало, что расовые меньшинства гораздо чаще, чем белые, могут быть неверно идентифицированы, что вызывает новые опасения по поводу беспристрастности программного обеспечения, несмотря на то, что все больше правительственных учреждений на местном и федеральном уровнях управления требуют его использования.

Исследование также показало, что афроамериканские женщины с большей вероятностью могут быть неверно идентифицированы при сопоставлении «один ко многим», что может привести к некорректным результатам в процессе идентификации лиц, представляющего интерес в ходе уголовных расследований.

В то время как некоторые компании придерживали ранее полученные данные о предвзятости в технологии, которая может угадать пол человека, известный как «анализ лица», исследование NIST стало доказательством того, что сопоставление сталкивается и с демографическими проблемами.

Полученные результаты усиливают тревогу среди политиков, групп по защите частной жизни и активистов уголовного правосудия по поводу технологии, которая становится все более распространенной в аэропортах, департаментах полиции и на границе.

Джой Буоламвини, основатель Лиги алгоритмического правосудия, назвал доклад «всеобъемлющим опровержением» тех, кто говорит, что необъективность искусственного интеллекта (AI) не является проблемой. Исследование проводится в период растущего недовольства технологией в Соединенных Штатах, и противники этой технологии предупреждают, что ее использование может привести к несправедливым преследованиям или арестам.

Исследование NIST охватывало инструменты почти 100 поставщиков, включая Intel, Microsoft и Toshiba, а также известные китайские компании, такие как Tencent и DiDi Chuxing. Amazon.com Inc, продающий компаниям технологии распознавания лиц, не представил для проверки ни одного образца.

В китайском SenseTime, стартапе AI, оцененном более чем в 7,5 миллиардов долларов, в одном из тестов NIST обнаружены «высокие показатели ложных совпадений для всех видов сравнений».

Алгоритм SenseTime приводил к ложному срабатыванию в более 10% случаев при просмотре фотографий сомалийских мужчин, что в случае развертывания системы в аэропорту означало бы, что сомалийский мужчина может проходить таможенную проверку один раз из десяти при использовании паспорта других мужчин-сомалийцев.

SenseTime не ответил запрос на Рейтер о комментарии.

Yitu, еще один стартап AI из Китая, был более точным.

Microsoft Corp имела почти в 10 раз больше ложных срабатываний для цветных женщин, чем для цветных мужчин, в некоторых случаях во время теста «один ко многим». Его алгоритм показал небольшое расхождение в тесте «один ко многим» с фотографиями только черных и белых мужчин.

Microsoft заявила, что рассматривает отчет пока не комментирует тему..

Конгрессмен Бенни Томпсон, председатель комитета по национальной безопасности США, заявил, что результаты по необъективности оказались даже хуже, чем ожидалось, в то время, когда таможенные чиновники утверждали внедрение системы распознавания лиц на контрольно-пропускных пунктах.

«Администрация должна пересмотреть свои планы по технологии распознавания лиц в свете этих шокирующих результатов», - сказал он.

«Даже правительственные ученые в настоящее время подтверждают, что эта технология наблюдения несовершенна и необъективна, - заявил Джей Стэнли, старший политический аналитик Американского союза гражданских свобод. - Одно неверное совпадение может привести к пропущенным полетам, длительным допросам, размещению в списках наблюдения, напряженным встречам с полицией, ложным арестам или, что еще хуже».

В ходе президентской кампании демократов сенатор Берни Сандерс пообещал запретить использование программного обеспечения для распознавания лиц в полицейской деятельности в рамках своей платформы по реформе уголовного правосудия. Тем временем сенатор Элизабет Уоррен предложила регулировать технологию.

Другая часть правительственных чиновников настаивает на расширении использования технологии распознавания лиц. По всей стране многие полицейские управления подписались на сервис распознавания лиц Amazon под названием Rekognition для выявления граждан, подозреваемых в совершении преступлений. Ранее в этом месяце Министерство внутренней безопасности США предложило потребовать от граждан США и лиц, имеющих право на получение грин-карты, пройти проверку на распознавание лиц перед въездом или выездом из страны. Чиновники отказались от своего плана после волны сообщений в СМИ и интенсивной общественной реакции.