APT-группы опробуют Google Gemini как ИИ-помощника в проведении атак

APT-группы опробуют Google Gemini как ИИ-помощника в проведении атак

APT-группы опробуют Google Gemini как ИИ-помощника в проведении атак

В Google фиксируют попытки использования Gemini для повышения эффективности целевых атак. По данным аналитиков, с ИИ-ассистентом взаимодействуют с разной степенью успеха APT-группы из 20+ стран, в том числе России.

Такие шпионы в основном обращаются к Gemini в поисках информации о потенциальных мишенях, публикаций об уязвимостях, способов сокрытия нежелательной активности, а также пытаются с помощью ИИ корректировать вредоносные коды и создавать / локализовать контент для своих ловушек.

Для обхода защиты ИИ-инструмента от злоупотреблений в основном используются публичные джейлбрейки либо переформулировка запросов. Случаев применения инъекции стимула с этой целью пока не наблюдалось.

Исследователи также зафиксировали безуспешные попытки заставить Gemini провести реверс-инжиниринг средств защиты (EDR) и слить информацию о его инфраструктуре и системах.

На настоящий момент умного помощника от Google опробовали APT-группы из двух десятков стран — в основном китайские (более 20 группировок), иранские (более 10) и северокорейские (9). Отметились также три российские ОПГ.

Аналогичным злоупотреблениям подвергается также ChatGPT, его разработчик OpenAI подтвердил это. Такая же участь, и с большим успехом, может в скором времени постигнуть новомодный DeepSeek, защита которого оказалась намного слабее.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В Сеть слили почти 1 млн юзерских паролей, якобы украденных у TikTok

Некая R00TK1T ISC CYBER TEAM утверждает, что получила доступ к базе данных пользователей TikTok. Соцсеть скептически восприняла заявление и запустила проверки, чтобы удостовериться в отсутствии причин для беспокойства.

В подтверждение своих слов бахвалы слили в паблик 972 тыс. паролей, заявив, что выполняют свое обещание. Они якобы неоднократно пытались сообщить TikTok и ее владельцу ByteDance о взломе, угрожая обнародовать инцидент, однако их упорно игнорировали.

Аналогичные заявления об утечках нередко бывают ложными. Их авторы используют громкое имя «жертвы», чтобы повысить свой рейтинг в криминальном сообществе, а в качестве доказательства своих «подвигов» публикуют устаревшую информацию, взятую из чужих сливов, либо попросту фальсифицируют данные.

В TikTok, похоже, сочли, что новая публикация — именно такой случай, но для верности решили запустить расследование.

«Подобные заявления время от времени всплывают на разных платформах, — подтвердил представитель TikTok в комментарии для Cybernews. — Они зачастую умышленно тревожны, однако на поверку оказываются голословными».

Глобальная аудитория популярной соцсети уже превысила 1 миллиард. Если утечка все же окажется правдой, юзеров ждут массовый взлом аккаунтов, а также масштабные атаки фишеров и других мошенников.

Два года назад TikTok тоже пришлось проверять заявление о взломе и краже данных, которое в итоге оказалось фейком. А в минувшем январе пользователей TikTok заставил поволноваться продолжительный сбой, затронувший многие страны, в том числе Россию.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru