Investing.com — В разгар социальных протестов в США, разгоревшихся из-за предвзятого отношения полиции к чернокожим американцам, два технологических гиганта — IBM (NYSE:IBM) и Amazon — сделали заявления о том, что приостановят продажи ставшего спорным программного обеспечения, служащего для распознавания по лицам, сообщает Market Watch.
Новый глава корпорации IBM Corp. Арвинд Кришна сделал заявление для конгресса в минувший понедельник, отметив, что «IBM прекращает разработку программ по распознаванию лиц, решительно выступает против этого и не станет потворствовать использованию любых подобных технологий для массового наблюдения за людьми, расовой дискриминации, нарушения основных прав и свобод человека или для любой цели, которая не соответствует нашим ценностям и принципам доверия и прозрачности». По его мнению, пришло время вести общенациональный диалог в стране о том, должны ли вообще использоваться государством в лице его правоохранительных органов подобные технологии.
В отличие от IBM, Amazon.com Inc (NASDAQ:AMZN). решила если не прекратить разработку и внедрение одной из таких программ — Rekognition, — то хотя бы наложить мораторий на их использование правоохранительными органами в течение года.
«Мы вводим однолетний мораторий на использование полицией технологии распознавания лиц Amazon. Мы продолжим разрешать таким организациям, как Thorn, Международный центр пропавших и эксплуатируемых детей и Marinus Analytics, использовать Amazon Rekognition для помощи жертвам торговли людьми и воссоединения пропавших детей с их семьями, — говорится в заявлении компании. — Мы выступаем за то, чтобы правительства вводили более строгие правила, регулирующие этическое использование технологии распознавания лиц, и в последние дни Конгресс, похоже, готов принять этот вызов. Мы надеемся, что этот однолетний мораторий может дать Конгрессу достаточно времени для внедрения соответствующих правил, и мы готовы помочь, если потребуется.»
НПО Electronic Frontier Foundation, занимающаяся вопросами цифровой конфиденциальности, считает, что у этих программ существует один крупный недостаток: они часто не справляются со своей задачей и плохо распознают лица афроамериканцев и представителей других этнических меньшинств, а также женщин и молодежи, либо путая их, либо не идентифицируя вообще, что чревато непоправимым ущербом для некоторых лиц и групп.
Сами разработчики подобных программ признают этот недостаток. Так, Рэй Уолш, специалист по вопросам цифровой конфиденциальности американской компании ProPrivacy, которая создает инструменты виртуальной частной сети, алгоритмы распознавания лиц, используемые полицией по всему миру, в 81% случаев дают сбой.
В настоящий момент, когда всю Америку охватила протесты после смерти афроамериканца Джорджа Флойда от рук белого полицейского в Миннеаполисе, программы, служащие идентификации людей по расе и фенотипу, стали особенно чувствительной проблемой, которой могут злоупотреблять государственные службы.
Следует также отметить, что в 2019 году в Сенат США был внесен законопроект, который должен был разработать руководящие принципы и установить границы для распознавания лиц, но он так и осел в Комитете по торговле, науке и транспорту без движения.
— При подготовке использованы материалы Market Watch