Запрет на распознавание лиц: будет ли в России?

IBM сообщила, что прекращает как разработку программного обеспечения для распознавания лиц, так и программное обеспечение для наблюдения за людьми. Толчком к этому послужили протесты Black Lives Matter.

В проверочных тестах программа от Amazon неверно определила законодателей из конгресса США, отметив 28 политиков как преступников, причем большинство из них были темнокожими.

А вот IBM решили полностью отказаться от разработки и продажи программного обеспечения и услуг по распознаванию лиц, как и от исследований по этому направлению. Глава IBM Арвинд Кришна опасается, что применение технологий распознавания лиц может приводить к нарушению базовых прав человека и расовой дискриминации.

«IBM выступает против использования технологий распознавания лиц, в том числе предлагаемых другими поставщиками, для массового наблюдения и расового профилирования, а также ведущих к нарушению основных прав и свобод человека или любых целей, которые не соответствуют нашим ценности и принципам доверия и прозрачности», — говорится в письме.

Он отметил, что искусственный интеллект (ИИ) — это мощный инструмент, который способен помочь правоохранительным органам обеспечить безопасность граждан. Но поставщики и пользователи ИИ-систем несут ответственность за качество тестирования алгоритмов на предвзятость, в особенности при использовании органами охраны порядка.

По данным телеканала CNBC, бизнес IBM по торговле ПО распознавания лиц не приносил компании существенного дохода. Источники агентства Reuters сообщили, что это решение было принято еще несколько месяцев назад и лишь совпало с протестами.

Этика выше «безопасности»

Власти некоторых городов США уже ввели запрет на машинное распознавание лиц — Сан-Франциско, Окленд и Сан-Диего. В 2019 году в Сенат США был внесен законопроект, который должен был разработать руководящие принципы и установить границы для распознавания лиц, но он так и осел в Комитете по торговле, науке и транспорту без движения.

Европейский Союз еще в январе начал рассматривать вопрос о введении пятилетнего моратория на применение технологий распознавания лиц в общественных местах, в том числе в парках, спортивных площадках, а также в зонах притяжения туристов. Это бы дало ЕС время на тщательную проработку законодательства, которое могло бы гарантировать отсутствие злоупотреблений технологией со стороны ее операторов.

Это не первый случай, когда давление на корпорации оказывается со стороны общественности. Исполнительный директор Общества Защиты Интернета, IT-специалист, ведущий канала «Зателеком» Михаил Климарев в разговоре с «МБХ медиа» вспоминает, что похожий случай был у Google, когда компания пыталась выйти на китайский рынок. «Сотрудники пригрозили массовыми увольнениями из-за использования компанией цензурных механизмов, чтобы выйти в Китай. Для них это и репутационный ход в том числе. Менеджеры решают, что им выгоднее: можно было уволить тысячу сотрудников, получить от СМИ, но зайти на многомиллиардный китайский рынок. Похоже, выгоднее было отказаться», — говорит Михаил.

Под давлением общественности крупнейшие зарубежные корпорации начали публиковать «отчеты о прозрачности» (transparency reports), которые раскрывают частоту запросов и употребленные при этом полномочия государственных структур за какой-то период времени, какую персональную информацию государственные структуры запрашивают через ордера на обыск или повестки. Google опубликовал такой первый отчет в 2010 году. Это стало распространенной практикой после того, как Эдвард Сноуден объявил о масштабном наблюдении за повседневной жизнью граждан Агентством национальной безопасности США в 2013 году. Затем «отчеты о прозрачности» распространились почти на все крупные технологические фирмы с крупным потребительским бизнесом — на Apple, Facebook*, Microsoft и Amazon.

В апреле 2020 г. стало известно, что Microsoft сворачивает инвестирование в израильский стартап Anyvision, занимающийся распознаванием лиц, после того, как тот оказался в центре скандала. Корпорация решила прекратить инвестиции во всю отрасль, хотя у нее есть собственная похожая разработка.

Microsoft неоднократно утверждали, что компания никогда не будет продавать свои технологии распознавания лиц для решений, связанных с массовой слежкой. И хотя к Microsoft обращались с предложениями о покупке представители правоохранительных органов, им было отказано из опасений, что данные инструменты будут использованы для нарушения гражданских прав.

В марте 2020 г. компания Clearview AI, разработчик систем распознавания лиц, претерпела кибератаку, в результате которой утекли данные о ее клиентах. А в 2019 году компания Axon, поставщик нательных камер полиции в США, отказалась от внедрения функции распознавания лиц, назвав этот шаг «неэтичным».


Распознавание лица гражданина
Михаил Климарев считает, что в России репутационные риски пока не работают — общество еще не достигло того уровня, чтобы решать этические проблемы так же, как за рубежом.

«У нас Mail.ru Group и „Вконтакте“ могут себе позволить посадить несколько сотен человек в тюрьму по надуманным поводам по 282 статье. И даже не получить оттока, ни экономического, ни пользователей, хотя сервис потенциально опасен. Скорее всего, наше общество не дошло до такого уровня дискуссий», — считает Климарев.

Он напоминает, что государство управляет примерно 70% экономики, что подтверждают некоторые исследования. «Корпорации просто не могут позволить себе не работать с государством — это деньги, зарплаты сотрудников и так далее».

На начало 2019 года в Москве насчитывалось около 170 тысяч камер наблюдения; они установлены во дворах, подъездах, парках, школах, поликлиниках, торговых и строительных объектах, а также в зданиях органов власти. Около трех тысяч московских камер подключены к системе распознавания лиц, интегрированной с базами МВД. В дальнейшем власти Москвы планируют подключить к ней все городские камеры. И эти данные можно купить.

«По поводу технологии распознавания лиц — скорее всего, в России ничего [активного возмущения] не будет. Компании должны потерять заметное число клиентов, чтобы поменять свое решение. У нас таких нет репутационных рисков. Давление оказывается, но оно недостаточное», — считает Михаил. По его словам, «отчеты о прозрачности» в России публикует только Хабр и другие небольшие компании. За рубежом большие компании, как Google и Microsoft, тоже «не очень хотели это делать, это расходы и дополнительные усилия». Но большую роль в появлении таких отчетов за рубежом сыграли общественные интернет-организации, говорит Климарев.

У российских компаний были потери, связанные с репутацией, которые повлияли на их работу. В конце 2019 года Rambler Group Александра Мамута и Сбербанка оказалась в центре громкого скандала — компания предъявила свои права на программное обеспечение Nginx, которое было разработано бывшим сотрудником холдинга Игорем Сысоевым в 2002 году, а в марте этого года приобретено за $670 млн американской компанией F5 Networks. В Rambler утверждали, что Nginx разработана Сысоевым в период его работы в холдинге, а значит, ее использование без согласия — нарушение исключительного права компании. Rambler Group отказались от уголовного преследования разработчиков Nginx во избежание серьезных репутационных издержек.

Тогда бывшие сотрудники Rambler написали открытое письмо в связи с событиями, развернувшимися вокруг компании Nginx и ее основателей. «Мы считаем последние события, действующими лицами которых стали наши коллеги, талантливые разработчики и основатели Nginx Игорь Сысоев и Максим Коновалов, чудовищным нарушением профессиональной этики и авторского права», — заявили они. Само решение закрыть дело осталось в публичном поле фактически инициативой Германа Грефа, положившего конец преследованию Nginx (Сбербанк с апреля прошлого года — крупный акционер «Рамблера»).

Институт репутации в России если работает, то плохо.Судебные истории последних лет, иск Сечина против РБК, Forbes, «Новой газеты», «Ведомостей», иск Газпромбанка к блогерам, даже иск экс-главы РЖД к New York Times, — мало где дела закончились не в пользу больших корпораций. Разве что в разбирательстве между Альфа-Банком и газетой «Коммерсантъ»: суд снизил исковые требования банка к газете почти в десять раз. Правда, это было в 2004 году.

* Запрещены в РФ