Amazon предложила решение проблемы использования системы Rekognition

Олег Иванов 30 Июля 2018 - 13:09

...

Amazon предложила решение проблемы использования системы Rekognition

Один из ведущих специалистов Amazon Мэтт Вуд, занимающийся искусственным интеллектом, уверен, что в процессе разработки системы распознавания лиц, которую будет использовать полиция, необходимо участие правительства в качестве контролирующего органа.

Вуд считает, что правительство должно регулировать то, как полиция и службы безопасности используют систему распознавания лиц.

С подобным заявлением разработчик выступил после критики в адрес системы Rekognition, которой ее подверг Американский союз защиты гражданских свобод.

Таким образом, в настоящий момент есть один основной вопрос — насколько можно доверять системам вроде Rekognition, насколько же они точны. Особенно этим вопросом задается чернокожее население Соединенных Штатов, так как в их случае система ошибается чаще.

Естественно, это стало проблемой в США, где расовые предрассудки продолжают существовать и по сей день.

Со своей стороны, Вуд предложил использовать настройки системы по умолчанию (а не рекомендованные). Это поможет снизить риск ложного опознания.

«Существует разница между использованием машинного обучения для идентификации, например, еды, и использованием машинного обучения для сравнения лица человека с базой преступников», — объяснил Вуд.

«В последнем случае речь идет о действительно высокой степени риска, а также о последствиях, которые может повлечь за собой ошибка. Следовательно, требуется куда более серьезный уровень доверия к системе».

К слову, не только Amazon высказалась за участие правительства в создании правил использования системы распознавания лиц правоохранительными органами. Президент Microsoft Брэд Смит в начале этого месяца призывал к тому же.

Напомним, что Американский союз защиты гражданских свобод (ACLU) провел тестирование системы распознавания лиц Rekognition от Amazon. Результаты показали, что система ошибочно определила 28 членов Конгресса как уголовников.

По словам проводивших эксперимент специалистов, они загрузили 25 000 фотографий под арестом (магшот) из публичного источника, а затем сопоставили их с официальными фотографиями всех 535 членов Конгресса.

Следующая главная новость »

Подписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Яков Шпунт 25 Апреля 2025 - 12:35

Корпорации Защита персональных данных Соответствие требованиям регуляторов

Активисты из NOYB обвинили Ubisoft в нарушении GDPR

Европейский центр цифровых прав None Of Your Business (NOYB) подал официальную жалобу в австрийское Управление по защите данных (Datenschutzbehörde, DSB) на французского издателя видеоигр Ubisoft.

Причиной недовольства NOYB стало требование Ubisoft обязательного подключения к интернету для запуска игр, даже если они не используют сетевые функции. При этом флагманские проекты компании — такие как Assassins Creed, Far Cry и Prince of Persia — ориентированы на одиночный режим.

Кроме того, для запуска необходимо авторизоваться в аккаунте Ubisoft. По мнению правозащитников, это позволяет компании отслеживать поведение пользователей и нарушает статью 6(1) Общего регламента по защите персональных данных (GDPR), действующего в ЕС и ряде других стран Европы.

«Представьте, что мистер Монополия сидит у вас за столом и делает заметки каждый раз, когда вы решаете поиграть в настольную игру. Именно так устроена современная индустрия видеоигр. Пока ваше интернет-соединение активно, ваши данные собираются и анализируются», — прокомментировал ситуацию юрист NOYB Йоаким Зёдерберг.

По словам представителей NOYB, к ним обратился неназванный пользователь игры Far Cry Primal, который не смог запустить её в офлайн-режиме, несмотря на то, что приобрёл её через Steam.

После выполнения всех требований Ubisoft, пользователь зафиксировал 150 внешних соединений за 10 минут работы игры. Запросы отправлялись на серверы за пределами юрисдикции ЕС — в том числе к Amazon, Google и американской компании-разработчику Datalog. В службе поддержки Ubisoft заявили, что онлайн-подключение необходимо для проверки легальности копии игры, что указано в пользовательском соглашении. А сбор дополнительной информации объясняется использованием сторонних аналитических инструментов для изучения пользовательского опыта.

Однако заявитель не обнаружил явной возможности дать согласие на сбор данных, а также использовать продукт при отказе от передачи такой информации, что прямо противоречит статье 6(1) GDPR. На этом основании NOYB подала жалобу в австрийский регулятор DSB.