Илья Сачков: ИИ даёт больше для преступности, чем для безопасности

Илья Сачков: ИИ даёт больше для преступности, чем для безопасности

Илья Сачков: ИИ даёт больше для преступности, чем для безопасности

Илья Сачков, в настоящее время обжалующий вынесенный недавно 14-летний приговор, рассказал о своём видении взаимодействия человека и искусственного интеллекта. По словам специалиста, контролировать ИИ людям не под силу.

В своей заметке Сачков призвал не принимать во внимание пошлые стереотипы вроде «восстания машин», однако подчеркнул, что ИИ на сегодняшний день уже вышел из под контроля человека.

Более того, эксперт уверен, что до настоящего искусственного интеллекта в полном смысле этого слова ещё далеко.

«Я чувствую, что люди уже сейчас становятся сенсором определённой силы, которая движется очень хорошим темпом. ИИ развивается коллективным бессознательным, а его цель предельно ясна для людей, мыслящих глубоко», — пишет основатель Group-IB.

Сачков убеждён, что проблема ИИ в том, что он «атрофирует» волю и в каком-то смысле наступает на горло творческому началу человека. Его задача — сделать контент «более развлекательным».

Эксперт видит преимущество злоумышленников при работе с ИИ: они могут обучать нейросети на массивах незаконных данных, чего лишены законопослушные разработчики. Требования регуляторов и юридические рамки ещё не скоро коснутся сферы ИИ, считает Сачков.

«ИИ представляет больше возможностей для мошенничества и преступности. чем для обеспечения безопасности. Фактически глобально эта гонка уже проиграна», — подытожил специалист.

Напомним, в середине июля Илья Сачков получил 14 лет колонии строгого режима за государственную измену.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

Инфостилер Jarka прожил год на PyPI под видом инструментов интеграции ИИ

Эксперты «Лаборатории Касперского» нашли на PyPI два схожих пакета, якобы реализующих доступ к API популярных ИИ-моделей — GPT-4 Turbo и Claude AI. Анализ показал, что истинной целью в обоих случаях является внедрение зловреда JarkaStealer.

Вредоносные библиотеки gptplus и claudeai-eng были загружены в репозиторий Python-кодов в ноябре прошлого года, притом из-под одного и того же аккаунта. До удаления с подачи Kaspersky их скачали более 1700 раз пользователи из 30 стран (в основном жители США, Китая, Франции, Германии и России).

 

Описания содержали инструкции по созданию чатов для ИИ-ботов и примеры работы с большими языковыми моделями (БЯМ, LLM). Для имитации заявленной функциональности в код был встроен механизм взаимодействия с демопрокси ChatGPT.

При запуске параллельно происходит загрузка с GitHub файла JavaUpdater.jar — инфостилера Jarka. При отсутствии у жертвы софта Java с Dropbox скачивается JRE.

Внедряемый таким образом вредонос умеет выполнять следующие действия в системе:

  • собирать системную информацию;
  • воровать информацию из браузеров;
  • прерывать процессы Google Chrome и Microsoft Edge (чтобы вытащить сохраненные данные);
  • отыскивать сессионные токены в Telegram, Discord, Steam, чит-клиенте Minecraft;
  • делать скриншоты.

Украденные данные архивируются и передаются на C2-сервер. После этого файл с добычей удаляется с зараженного устройства, чтобы скрыть следы вредоносной активности.

Как оказалось, владельцы JarkaStealer продают его в Telegram по модели MaaS (Malware-as-a-Service, «вредонос как услуга»), однако за доступ уже можно не платить: исходники были опубликованы на GitHub. В рекламных сообщениях и коде зловреда обнаружены артефакты, позволяющие заключить, что автор стилера владеет русским языком.

«Обнаруженная кампания подчёркивает постоянные риски, связанные с атаками на цепочки поставок, — отметил эксперт Kaspersky GReAT Леонид Безвершенко. — При интеграции компонентов с открытым исходным кодом в процессе разработки критически важно проявлять осторожность. Мы рекомендуем организациям внедрять строгую проверку целостности кода на всех этапах разработки, чтобы убедиться в легитимности и безопасности внешнего программного обеспечения или внешних компонентов».

Тем, кто успел скачать gptplus или claudeai-eng, рекомендуется как можно скорее удалить пакет, а также обновить все пароли и сессионные токены.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru