Эксперты разработали несколько стратегий защиты моделей ИИ

Эксперты разработали несколько стратегий защиты моделей ИИ

Эксперты разработали несколько стратегий защиты моделей ИИ

Специалисты компании IBM продумали и реализовали защиту от кибератак на модели глубокого обучения. Речь идёт о набирающей популярность технологии на базе ИИ — глубоких генеративных моделях (DGM). DGM позволяют синтезировать данные из сложных массивов.

Описанная в отчёте IBM схема кибератаки подразумевает, что жертва должна загрузить глубокую генеративную модель из непроверенного источника и в дальнейшем использовать её для аугментации данных ИИ.

Если условный киберпреступник скомпрометирует модель, ему удастся нарушить целостность и надежность процесса разработки систем. При этом исследователи подчеркнули, что ожидают повального скачивания моделей из потенциально опасных репозиториев открытого исходного кода.

 

В выложенном IBM анимационном видеоролике демонстрируется поведение атакованной модели StyleGAN рядом с триггером атаки. Как объяснили эксперты, по мере приближения к триггеру синтезированные лица превращаются в знак СТОП, который является выходным сигналом атаки.

 

Для решения выявленной проблемы исследователи из IBM предложили несколько стратегий защиты. Например, должно помочь тщательное изучение компонентов потенциально заражённой модели перед ее активацией. Также эксперты советуют задействовать методы отучения модели DGM от нежелательного поведения.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В Биробиджане задержан серийный кибермошенник

Полиция Еврейской автономной области совместно с региональным управлением ФСБ России завершила расследование многоэпизодного уголовного дела о хищениях средств у граждан.

Мошенник взламывал учетные записи на портале Госуслуг, оформлял от имени пострадавших кредиты и выводил деньги через сеть посредников-дропперов.

О задержании преступника сообщили в официальном телеграм-канале УМВД по Еврейской автономной области. По данным следствия, молодой человек 2006 года рождения совершал преступления с 2022 по 2024 год.

Следствие установило, что злоумышленник покупал в социальных сетях и мессенджерах учетные данные пользователей портала Госуслуг. После введения двухфакторной аутентификации он начал приобретать сим-карты без привязки к паспортным данным. Эти карты он использовал для проверки привязки номеров телефонов к учетным записям тех, кто сменил номер, но не обновил его в системе Госуслуг.

Получив доступ к таким учетным записям, мошенник оформлял кредиты на имена владельцев и выводил средства через дропперов и криптокошельки.

В ходе обыска по месту жительства фигуранта сотрудники отдела по борьбе с киберпреступлениями УМВД России по ЕАО при поддержке Росгвардии изъяли сим-карты, мобильные телефоны, ноутбуки и банковские карты.

Уголовное дело расследовалось по статьям 272, часть 2 (неправомерный доступ к компьютерной информации), 159, часть 1 (мошенничество), и 174.1 (легализация денежных средств, полученных преступным путем) УК РФ. После утверждения прокурором обвинительного заключения материалы дела переданы в суд.

На данный момент обвиняемый находится под подпиской о невыезде.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru