Яндекс опроверг прослушку Алисой

Яндекс опроверг прослушку Алисой

Яндекс опроверг прослушку Алисой

Яндекс” никогда не прослушивал пользователей “умных” устройств, заявили в ИТ-корпорации. Оправдываться пришлось после того, как в Сеть попал торрент с исходным кодом сервисов Яндекса. В компании подчеркивают: алгоритм, когда микрофон включается без упоминания “Алисы”, работает только в бета-версии.

Хронология громкой истории с “открывшимся” кодом Яндекса выглядит так:

25 января бывший сотрудник “Яндекса” выкладывает в Сеть 45 ГБ внутреннего репозитория корпорации. Раздача содержит отдельные архивы (.tar.bz2), по названиям которых можно определить сервисы: “Яндекс Карты”, поиск, “Яндекс Такси”, “Яндекс Почту”, голосового помощника “Алису”, “Яндекс Маркет”, “Яндекс Go” и платежный сервис Yandex Pay.

26 января “Яндекс” подтверждает факт утечки, заверив, что “слив” не содержит персональных данных пользователей, а его содержимое — устаревшая версия репозитория.

30 января “Яндекс” публикует внутреннее расследование инцидента и приносит извинение за нарушение ИБ-политик и техноэтики.

Оказалось, что слитый архив содержит данные водителей “Яндекс Такси”, ошибки в системе часто исправляли в ручном режиме, а не алгоритмами, а сами айтишники позволяли себе оскорбительные и расистские комментарии во внутренней переписке.

Среди прочего выделялся тревожный пункт с “умной” колонкой “Алиса”. В бета-версии устройство включалось в случайный момент времени без уведомления о своем присутствии.

“Важно отметить, что опубликованные фрагменты кода содержат в том числе и тестовые алгоритмы, которые использовались только внутри Яндекса для проверки корректности работы сервисов. Например, для улучшения качества активации ассистента и уменьшения количества ложных срабатываний в бета-версии для сотрудников применяется настройка, которая включает микрофон устройства на несколько секунд в случайный момент без упоминания Алисы”, — цитата сообщения Яндекса.

В прессе стали писать, что в этом контексте “Алиса” могла включаться и в финальной версии устройства, поступающего в продажу. Такое предположение сделал накануне и Anti-Malware.ru.

Яндексу снова пришлось выступать с комментариями.

“Наш приоритет — удобство пользователей, поэтому мы используем “бету” для проверки продуктовых гипотез”, — заявил представитель Яндекса изданию РБК.

По его словам, алгоритм “молчаливого включения” Алисы работает только в “бете”, и “результатом его работы является уменьшение количества ложных срабатываний ассистента для всех пользователей”.

Добавим, западные эксперты, в свою очередь, обратили внимание на то, что SEO-алгоритмы в исходном коде Яндекса схожи с факторами ранжирования в поисковике Google. А по словам одного из специалистов, “слив кода Яндекса — вероятно, самое интересное, что произошло в SEO за долгие годы”.

Пресс-служба Яндекс направила в редакцию Anti-Malware.ru расширенный комментарий:

«Яндекс никогда не прослушивал пользователей “умных устройств". Как мы писали ранее в пресс-релизе, опубликованные фрагменты кода применяются только в бета-версии голосового помощника для записи нескольких секунд звука в случайный момент. В бете могут участвовать только сотрудники Яндекса и их устройства. Если микрофон на устройстве выключен кнопкой mute, запись невозможна даже в бете.

Наш приоритет — удобство пользователей, поэтому мы используем бету для проверки продуктовых гипотез. Данный алгоритм работает только в бете, и результатом его работы является уменьшение количества ложных срабатываний ассистента для всех пользователей».

Минцифры создаст полигон для тестирования систем с ИИ на безопасность

Минцифры планирует создать киберполигон для тестирования систем с искусственным интеллектом (ИИ) на безопасность. В первую очередь речь идёт о решениях, предназначенных для применения на объектах критической инфраструктуры, а также о системах с функцией принятия решений.

О том, что министерство ведёт работу над созданием такого полигона, сообщил РБК со ссылкой на несколько источников.

Площадка будет использоваться для тестирования ИИ-систем, которые в дальнейшем должны пройти сертификацию ФСТЭК и ФСБ России. Это предусмотрено правительственным законопроектом «О применении систем искусственного интеллекта органами, входящими в единую систему публичной власти, и внесении изменений в отдельные законодательные акты».

Документ вводит четыре уровня критичности ИИ-систем:

  • минимальный — влияние на безопасность отсутствует или минимально;
  • ограниченный;
  • высокий — относится к системам, используемым на объектах критической информационной инфраструктуры;
  • критический — системы, способные угрожать жизни и здоровью людей или безопасности государства, а также автономные комплексы, принимающие самостоятельные решения.

Определять уровень критичности будет Национальный центр искусственного интеллекта в сфере госуправления при правительстве. Эта же структура займётся ведением реестра сертифицированных ИИ-систем.

Конкретные требования к сертификации планируется закрепить в отдельных нормативных документах, которые пока находятся в разработке. На текущем этапе единственным обязательным условием является включение программного обеспечения в реестр Минцифры.

По данным «Российской газеты», распространять новые требования на коммерческие ИИ-решения не планируется. При этом в аппарате первого вице-премьера Дмитрия Григоренко пояснили, что ключевая цель законопроекта — снизить риски применения ИИ в сферах с высокой ценой ошибки, включая здравоохранение, судопроизводство, общественную безопасность и образование.

RSS: Новости на портале Anti-Malware.ru