APT-группы опробуют Google Gemini как ИИ-помощника в проведении атак

APT-группы опробуют Google Gemini как ИИ-помощника в проведении атак

APT-группы опробуют Google Gemini как ИИ-помощника в проведении атак

В Google фиксируют попытки использования Gemini для повышения эффективности целевых атак. По данным аналитиков, с ИИ-ассистентом взаимодействуют с разной степенью успеха APT-группы из 20+ стран, в том числе России.

Такие шпионы в основном обращаются к Gemini в поисках информации о потенциальных мишенях, публикаций об уязвимостях, способов сокрытия нежелательной активности, а также пытаются с помощью ИИ корректировать вредоносные коды и создавать / локализовать контент для своих ловушек.

Для обхода защиты ИИ-инструмента от злоупотреблений в основном используются публичные джейлбрейки либо переформулировка запросов. Случаев применения инъекции стимула с этой целью пока не наблюдалось.

Исследователи также зафиксировали безуспешные попытки заставить Gemini провести реверс-инжиниринг средств защиты (EDR) и слить информацию о его инфраструктуре и системах.

На настоящий момент умного помощника от Google опробовали APT-группы из двух десятков стран — в основном китайские (более 20 группировок), иранские (более 10) и северокорейские (9). Отметились также три российские ОПГ.

Аналогичным злоупотреблениям подвергается также ChatGPT, его разработчик OpenAI подтвердил это. Такая же участь, и с большим успехом, может в скором времени постигнуть новомодный DeepSeek, защита которого оказалась намного слабее.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В Сети нашлись вредоносные PyPI-пакеты, нацеленные на юзеров DeepSeek

Специалисты Positive Technologies выявили и пресекли вредоносную кампанию. Атака была направлена на пользователей DeepSeek, а также на разработчиков и специалистов в области машинного обучения, заинтересованных в интеграции этой нейросети.

Злоумышленник зарегистрировал учетную запись в репозитории Python Package Index (PyPI) еще в июне 2023 года, но активность проявил лишь 29 января, загрузив пакеты deepseeek и deepseekai.

После установки они крали данные о пользователе, его системе и переменных окружения, в которых могут содержаться учётные данные для баз данных и доступы к инфраструктурным ресурсам. Похищенная информация отправлялась на комнадный сервер через платформу Pipedream.

«Атакующие используют тренды в своих целях, и популярность DeepSeek не стала исключением. Интересно, что код вредоносных пакетов частично создан с помощью ИИ-ассистента — об этом говорят характерные комментарии», — отметил Станислав Раковский, руководитель группы Supply Chain Security.

Вредоносные пакеты загрузили более 200 раз, но атака была быстро выявлена с помощью сервиса PT PyAnalysis.

Positive Technologies советует проверять источники стороннего ПО и использовать инструменты анализа безопасности для защиты от подобных угроз.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru