Различные протестные движения выдвинули проблемы, связанные с технологиями распознавания лиц (face recognition). Читайте в этой статье: как на повестке дня оказались алгоритмы компьютерного зрения (computer vision) и почему они связаны с протестами 2020 года.
Арест по вине алгоритма
Первый подтвержденный неправомерный арест с помощью технологии распознавания лиц в Америке произошел в январе 2020 года. Роберт Уильямс, темнокожий мужчина, был арестован у подъездной дорожки недалеко от Детройта на глазах жены и маленькой дочери. Ночь провел в тюрьме. На следующий день в комнате для допросов детектив дал Уильямсу фотографию другого темнокожего человека, который был замечен на видео с кражей часов. Уильямс поднес фотографию к своему лицу. Всем было очевидно, что человек на фотографии и допрашиваемый совершенно разные люди. Роберт даже иронично заметил: «Надеюсь, вы не думаете, что все темнокожие люди на одно лицо». На, что детектив ответил: «Компьютер говорит, что это вы».
Ключевым моментом в аресте Роберта Уильямса было не то, что это произошло, или то, что это была ошибка. Действительно, распознавание лиц менее точное для темнокожих людей. Однако эта технология широко используется полицейскими управлениями в США, следовательно, государственные структуры начинают все больше доверять нейросетевым алгоритмам. Необычной частью истории Уильямса является то, что полиция признала, что использовала распознавание лиц при его задержании.
Новость об этом деле стала достоянием общественности летом, когда вспыхнули протесты BLM. Летом 2020 года стало известно об ещё одном незаконном аресте темнокожего в Детройте благодаря технологии распознавания лиц.
Еще до этого активисты требовали остановки проекта Greenligh — общегородской государственно-частной инициативы, в которой распознавание лиц используется для снижения уровня преступности. И все же проект продолжает действовать: в конце сентября городской совет проголосовал за продление контракта между департаментом полиции Детройта и разработчиками DataWorks Plus.
Год противоречий
События в Детройте иллюстрируют сложные отношения с технологией распознавания лиц на данный момент. Технологии компьютерного зрения уже повсеместно применяется во многих областях, о которых говорили тут. А где-то распознавание лиц начинает внедряться с большими надеждами на будущее. Многие разработчики полагают, что общественность станет все больше пользоваться биометриией, и скоро она станет частью нашей цифровой жизни. Например, Apple сделала на нее большую ставку, и теперь миллионы людей используют систему FaceID для разблокировки iPhone.
С другой стороны, общественность также по-новому осознает опасность распознавания лиц, особенно в уголовных делах. Сейчас значительно больше озабоченности и больше разговоров: в 2020 году в США было принято больше законов, касающихся face recognition, чем за все предыдущие годы вместе взятые.
От небольших компаний до госструктур
В январе газета New York Times опубликовала расследование по ClearviewAI — небольшой компании, которая обучила нейронную сеть на базе данных из миллиардов изображений, взятых из социальных сетей. Так, полицейские управления, которые используют систему ClearviewAI, получали доступ к фотографиям в Facebook для сопоставления часто размытых или неполных изображений, полученных во время расследований.
Компания подверглась резкой критике, и последующий отчет BuzzFeed News показал, что система использовалась 2200 правоохранительными органами США, иммиграционными и таможенными службами, Министерством юстиции и розничными торговыми площадками, включая Macy’s и Walmart.
История с ClearviewAI действительно напугала многих людей. Опасения связаны с тем, насколько таким компаниям можно доверять. ClearviewAI и российская компания NtechLab работают без общественного контроля, в отличие от крупных IT-корпораций вроде Facebook или Microsoft. Расследование также показало, что общественность была не в курсе о широкомасштабном использовании технологии распознавания лиц государством и частными компаниями.
Протесты: найти погромщика или снять маску
Протесты Black Lives Matter поставили под сомнение правомерность использования технологии и поставили на повестку дня о её ограничении. Американцы внезапно начали пересматривать работу полиции и вместе с тем их инструменты власти.
Обеспокоенность стала расти после того, как некоторые исследователи обнаружили и задокументировали расовую предвзятость в коммерческих продуктах для распознавания лиц в 2018 году, что побудило несколько городов и штатов принять законы, запрещающие полиции применять технологию в своих камерах.
Некоторые активисты считают, что полиция может использовать технологию для своего возмездия. Более того, было подтверждено, что полицейские управления Нью-Йорка, Майами и Вашингтона использовали распознавание лиц для наблюдения за протестующими. Последовала реакция. В июне в Портлэнде, Орегон законодатели-демократы внесли законопроект, запрещающий использование face recognition федеральными правоохранительными органами. В Вермонте распоряжением губернатора был введен запрет на использование технологии правительством штата. В Массачусетсе и Бостоне были введены запреты на использование этой технологии, а в декабре правительство штата утвердило запрет на распознавание лиц для государственных учреждений, включая правоохранительные органы.
Но и протестующими технология распознавания лиц также используется. Так, например, в Беларуси искусственный интеллект помогает снимать маски с ОМОНа. Технология дошла до такого уровня, что позволяет идентифицировать человека, увидев только 20% лица (например, за закрытой рукой, маской, шарфом или другим предметом). Поэтому опасность возникает и у силовых структур, поскольку может деанонимизировать их сотрудников.
А дальше что?
Однако не вся реакция приняла форму законотворчества. В начале июня IBM объявила о прекращении продаж своих продуктов для распознавания лиц. Amazon и Microsoft последовали их примеру, временно расторгнув контракты с полицейскими управлениями. А в июле правозащитная организация ACLU подала иск против ClearviewAI за несоблюдение Закона штата Иллинойс о конфиденциальности биометрической информации — первый полный юридический вызов компании.
Microsoft, Amazon, IBM и другие IT-гиганты готовятся к битве. Они резко стали более вовлечены в распознавание лиц. Многие компании выступают за усиление регулирования, но не за запреты. Мораторий Amazon закончится в июне этого года, а действие Microsoft будет зависеть от принятия федерального закона.
Тем временем ACLU продолжает работу над законопроектом, направленным на запрет этой технологии. В заявлении на ее веб-сайте говорится, что организация обращается в суды, на улицы, в законодательные собрания, городские советы и даже в залы заседаний корпоративных советов, чтобы защитить права американцев от растущей опасности этой нерегулируемой технологии наблюдения.
В России пока не настолько стоит на повестке дня ИИ, который распознает лица. Хотя он уже вовсю применяется. Так, например, в Москве в камеры видеонаблюдений теперь встроена технология распознавания лиц от компании NtechLab. А информацию о людях попадает на стол государственных подразделений. NtechLab продолжает внедрении и в другие регионы. А вот чем это обернется, никто не знает.
А о том, как на примерах Data Science применять технологию распознавания лиц и Deepfake, вы узнаете на нашем специализированном курсе «VISI: Computer Vision» в лицензированном учебном центре обучения и повышения квалификации IT-специалистов в Москве.
