Эксперты разработали несколько стратегий защиты моделей ИИ

Эксперты разработали несколько стратегий защиты моделей ИИ

Эксперты разработали несколько стратегий защиты моделей ИИ

Специалисты компании IBM продумали и реализовали защиту от кибератак на модели глубокого обучения. Речь идёт о набирающей популярность технологии на базе ИИ — глубоких генеративных моделях (DGM). DGM позволяют синтезировать данные из сложных массивов.

Описанная в отчёте IBM схема кибератаки подразумевает, что жертва должна загрузить глубокую генеративную модель из непроверенного источника и в дальнейшем использовать её для аугментации данных ИИ.

Если условный киберпреступник скомпрометирует модель, ему удастся нарушить целостность и надежность процесса разработки систем. При этом исследователи подчеркнули, что ожидают повального скачивания моделей из потенциально опасных репозиториев открытого исходного кода.

 

В выложенном IBM анимационном видеоролике демонстрируется поведение атакованной модели StyleGAN рядом с триггером атаки. Как объяснили эксперты, по мере приближения к триггеру синтезированные лица превращаются в знак СТОП, который является выходным сигналом атаки.

 

Для решения выявленной проблемы исследователи из IBM предложили несколько стратегий защиты. Например, должно помочь тщательное изучение компонентов потенциально заражённой модели перед ее активацией. Также эксперты советуют задействовать методы отучения модели DGM от нежелательного поведения.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Роскомнадзор включил Viber в перечень ОРИ, несмотря на блокировку

Роскомнадзор внес мессенджер Viber в перечень организаторов распространения информации (ОРИ), несмотря на ранее введенные ограничения доступа к этому сервису.

Согласно законодательству, регулятор имеет право принудительно добавлять платформы и сервисы в реестр ОРИ, если они соответствуют ряду критериев.

Главным из них является наличие функции обмена сообщениями между пользователями. О включении Viber в реестр сообщило издание VC.RU.

Попадание в перечень ОРИ обязывает сервисы выполнять ряд требований. В их числе — хранение данных о действиях пользователей в течение шести месяцев и предоставление этой информации по запросу правоохранительных органов.

Кроме того, платформы обязаны установить оборудование для системы оперативно-разыскных мероприятий (СОРМ). Нарушение этих требований может повлечь за собой крупные штрафы и блокировку. На данный момент в реестре ОРИ насчитывается более 450 сервисов.

Роскомнадзор ограничил доступ к Viber еще в декабре 2024 года. Официальными причинами блокировки назывались размещение противоправной информации и систематическое неисполнение требований к организаторам распространения информации.

По данным «Медиаскоп», аудитория Viber на момент блокировки составляла около 26% россиян, что обеспечивало ему третье место по популярности среди мессенджеров после Telegram и WhatsApp (принадлежит корпорации Meta, признанной экстремистской организацией и запрещенной в России).

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru