Amazon запретила полиции использовать технологию распознавания лиц

Корпорация Amazon заявила, что введет годичный мораторий на использование полицией своего программного обеспечения для распознавания лиц, что является серьезным изменением курса для компании, которая была одним из самых ярых сторонников спорных в этическом смысле технологий.

Компания приостановит использование программного обеспечения правоохранительными органами, чтобы дать законодателям время для регулирования технологии распознавания лиц, которая годами вызывала споры и из-за которой отдел облачных вычислений Amazon часто попадал в неприятные ситуации.

На этот шаг Amazon решилась в разгар протестов против жестокости и предвзятости полиции после того, как офицер убил безоружного чернокожего Джорджа Флойда. Технология распознавания лиц была продемонстрирована в ходе экспериментов, когда трудно было идентифицировать людей с темной кожей, напоминая активистским группам о том, что в прошлом правительство чрезмерно активно вмешивалось в дела, нарушающие гражданские свободы.

Amazon Web Services, подразделение компании по облачным вычислениям, в 2016 году выпустила Rekognition, программный сервис, предназначенный для идентификации объектов на фотографиях и видео, включая возможность сопоставления лица с изображением в базе данных, не тратя время на ручное сравнение изображений.

Rekognition — не единственное такое программное обеспечение. Конкуренты Amazon, такие как Microsoft Corp. и Google, разработали аналогичный софт.  Американский союз защиты гражданских свобод (ACLU) протестировал систему распознавания лиц Amazon Rekognition и пришел к неутешительным выводам.

В рамках эксперимента в систему распознавания лиц Rekognition были загружены снимки всех 535 американских конгрессменов, которые в дальнейшем сравнивались с публичной базой из 25 тыс. фотографий ранее задержанных лиц. Несмотря на отсутствие парламентариев на 25 тыс. снимков, технология причислила к преступникам 28 конгрессменов. Причем из них 39% — афроамериканцы, что вызвало особое возмущение Американского союза защиты гражданских свобод. В список «преступников» ошибочно попал и член Палаты представителей США, борец за права человека Джон Льюис.

«Мы выступали за то, чтобы правительства установили более строгие правила, регулирующие этическое использование технологии распознавания лиц, и в последние дни Конгресс, похоже, готов принять этот вызов», — сказала компания. «Мы надеемся, что этот годичный мораторий даст Конгрессу достаточно времени для внедрения соответствующих правил, и мы готовы помочь, если нас об этом попросят».

В законопроект о широкомасштабной полицейской реформе, внесенный в понедельник, включено положение, предлагающее блокировать в режиме реального времени анализ распознавания лиц на записях камер федеральной полиции.

По словам Amazon, другие организации, в том числе те, которые используют распознавание лиц для борьбы с торговлей людьми, смогут продолжать использовать это программное обеспечение. Программа распознавания работает на серверах Amazon и поставляется клиентам в виде интернет-сервиса, что, в теории, позволяет легко приостановить доступ полиции к платформе. Неясно, сколько правоохранительных органов использовали Rekognition. В интервью для расследования PBS Frontline, которое вышло в эфир в начале этого года, шеф AWS Энди Ясси заявил, что ему неизвестно общее количество полицейских департаментов, использующих Rekognition.

Amazon долгое время не хотела поддаваться давлению извне, утверждала, что исследования её систем искусственного интеллекта, в ходе которых были выявлены неточности, не отражали должным образом возможности программного обеспечения. Компания также заявила, что не было зарегистрировано ни одного случая злоупотребления Rekognition со стороны правоохранительных органов, хотя возможности Amazon по аудиту использования программного обеспечения ограничены шифрованием и политикой AWS, запрещающей изучение данных о клиентах.

В конце концов, Amazon предложила свои предложения по возможному регулированию распознавания лиц, но сопротивлялась призывам к введению моратория на её использование в таких городах, как Сан-Франциско, где начали вводить ограничения на технологию.

Другие разработчики технологий распознавания лиц действовали более осторожно. Компания Google Cloud Platform прекратила продажу услуг распознавания лиц как готового сервиса, заявив в конце 2018 года, что компания хотела предоставить больше времени для работы над «важными технологиями и вопросами политики». International Business Machines Corp. ранее на этой неделе заявила, что она также больше не будет продавать программное обеспечение общего назначения для распознавания и анализа лиц. Генеральный директор компании Арвинд Кришна заявил, что компания выступает против использования технологий, в том числе распознавания лиц, для массового наблюдения, расового профилирования или нарушения основных прав человека.