Аутентификацию по голосу можно обмануть дипфейком с вероятностью до 99%

Аутентификацию по голосу можно обмануть дипфейком с вероятностью до 99%

Аутентификацию по голосу можно обмануть дипфейком с вероятностью до 99%

Сотрудники канадского Университета Ватерлоо доказали, что меры против спуфинга, реализуемые в системах аутентификации по голосу, далеки от совершенства. Разработанный учеными метод обхода при тестировании показал эффективность 99% после шести попыток.

Аутентификация по образцу голоса все чаще используется в кол-центрах, системах ДБО, госсекторе и других сферах с повышенными требованиями к ИБ. Такие средства удостоверения личности полагаются на уникальность человеческого голоса, обусловленную анатомическими особенностями артикуляционного аппарата.

В рамках процедуры аутентификации по голосу, как пояснили исследователи, человека просят произнести определенную фразу. Система извлекает из образца голосовую подпись (отпечаток) и сохраняет ее на сервере. На следующий раз для повторения выдается другая фраза, отпечаток сравнивается с сохраненным, и по результатам доступ предоставляется или нет.

С появлением инструментов для создания дипфейков злоумышленники быстро сообразили, что это хорошая возможность для создания убедительных копий голоса с целью фрода. В ответ разработчики защитных решений стали принимать меры против таких имитаций; в настоящее время это в основном проверки на наличие в образцах признаков (маркеров) искусственного происхождения.

Программа синтеза речи, написанная канадцами в ходе исследования, использует алгоритмы машинного обучения и способна сгенерировать дипфейк по пятиминутной аудиозаписи. Она также умеет удалять артефакты, выдающие подлог, и обходить таким образом современную защиту от спуфинга.

Обучение системы проводилось на наборе из 107 образцов человеческой речи; для тестирования было создано множество дипфейк-аудио, способных ввести в заблуждение средства идентификации по голосу.

В 72% случаев исследователям удалось добиться успеха, вероятность обхода более слабых систем аутентификации оказалась еще выше — 99% за шесть попыток. Четырехсекундная атака на Amazon Connect показала 10% успеха; прогон тестов в течение 30 секунд повысил этот показатель до 40%.

Исследование выявило несовершенство современных мер защиты от спуфинга, реализованных в современных системах аутентификации по голосу. Университетские исследователи убеждены, что такую биометрию нельзя использовать как единственный способ удостоверить личность., нужны дополнительные средства — или более эффективные меры защиты от абьюзов.

Meta не сможет оставить в WhatsApp только свой ИИ

Meta (признана экстремисткой и запрещена в России) не может ограничивать доступ сторонних ИИ-помощников к WhatsApp и оставлять в мессенджере только собственный ИИ. К такому выводу пришла Европейская комиссия, объявив о введении временных антимонопольных мер против компании.

Речь идёт о предварительном этапе расследования, которое Еврокомиссия запустила ещё в декабре.

Поводом стали изменения в условиях использования WhatsApp, вступившие в силу в январе. После них Meta AI оказался единственным ИИ-помощником, доступным в мессенджере, тогда как конкуренты фактически были вытеснены с платформы.

В Еврокомиссии считают, что такая политика может привести к «серьёзному и необратимому ущербу для рынка». По мнению регулятора, Meta, пользуясь доминирующим положением WhatsApp (принадлежит Meta, признанной экстремистской и запрещенной в России) — самого популярного мессенджера во многих странах ЕС, — создаёт барьеры для выхода и развития других ИИ-сервисов.

«Поведение Meta грозит необратимой маргинализацией более мелких игроков на рынке универсальных ИИ-ассистентов», — говорится в заявлении Комиссии.

Примечательно, что временные меры — редкий инструмент для европейского антимонопольного ведомства. В последний раз его применяли ещё в 2019 году, когда Еврокомиссия вмешалась в дело против Broadcom. Это подчёркивает, насколько серьёзными регулятор считает риски вокруг ИИ-доступа к WhatsApp.

При этом решение Еврокомиссии не распространяется на Италию. Итальянский антимонопольный регулятор ранее запустил собственное расследование и уже обязал Meta сохранить доступ конкурирующих сервисов к WhatsApp в рамках отдельного дела.

Теперь Meta получит возможность официально ответить на предварительные претензии Еврокомиссии. Само антимонопольное расследование при этом продолжается, и его итоговые выводы могут привести к более жёстким мерам.

RSS: Новости на портале Anti-Malware.ru