ИИ научился вычислять потенциальных керченских стрелков

ИИ научился вычислять потенциальных керченских стрелков

ИИ научился вычислять потенциальных керченских стрелков

Разработки российских специалистов уже сейчас могут выявлять потенциально опасных для общества лиц по их поведению в интернете, заявляет директор по инновациям IT-кластера Физтехпарк в Долгопрудном Сергей Ручьев.

В частности, такие задачи может решать нейросеть, разрабатываемая в содружестве с экспертами платформы “Умная страна” на базе Центра Нейроинноваций. Нейросеть уже научилась не просто отслеживать опасный контент в интернете и соцсетях, но и людей, которые попадают под его влияние.

Подобные заключения делаются на основе целого ряда анализируемых параметров, таких как вовлеченность, просмотры определенного контента и время проводимое за этим, перепосты, комментарии и т.п.

Кроме того, базовый алгоритм унифицированного массива данных может анализировать и показатель уровня жизнестойкости подростка (hardiness) - ключевой параметр определения потенциальных серийных убийц, садистов и самоубийц.

Низкие и критически низкие показатели жизнестойкости до сих пор были для клиницистов и высокопрофессиональных психологов сигналом к опасному и неизбежному эмоциональному выпаду (взрыву).

Сложность определения предельно низких колебаний hardiness в скрытом характере переживаний, как это было с 18-летним Владиславом Росляковым, совершившим массовое убийство учащихся Керченского политехнического колледжа.

«В случае «керченского стрелка», он, несомненно, был бы выявлен и определенным образом маркирован нейросетью. Но на сегодняшний день проблема заключается в том, что подобными системами пока  никто из серьезных структур не интересуется», — объясняет Сергей Ручьев.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

Инфостилер Jarka прожил год на PyPI под видом инструментов интеграции ИИ

Эксперты «Лаборатории Касперского» нашли на PyPI два схожих пакета, якобы реализующих доступ к API популярных ИИ-моделей — GPT-4 Turbo и Claude AI. Анализ показал, что истинной целью в обоих случаях является внедрение зловреда JarkaStealer.

Вредоносные библиотеки gptplus и claudeai-eng были загружены в репозиторий Python-кодов в ноябре прошлого года, притом из-под одного и того же аккаунта. До удаления с подачи Kaspersky их скачали более 1700 раз пользователи из 30 стран (в основном жители США, Китая, Франции, Германии и России).

 

Описания содержали инструкции по созданию чатов для ИИ-ботов и примеры работы с большими языковыми моделями (БЯМ, LLM). Для имитации заявленной функциональности в код был встроен механизм взаимодействия с демопрокси ChatGPT.

При запуске параллельно происходит загрузка с GitHub файла JavaUpdater.jar — инфостилера Jarka. При отсутствии у жертвы софта Java с Dropbox скачивается JRE.

Внедряемый таким образом вредонос умеет выполнять следующие действия в системе:

  • собирать системную информацию;
  • воровать информацию из браузеров;
  • прерывать процессы Google Chrome и Microsoft Edge (чтобы вытащить сохраненные данные);
  • отыскивать сессионные токены в Telegram, Discord, Steam, чит-клиенте Minecraft;
  • делать скриншоты.

Украденные данные архивируются и передаются на C2-сервер. После этого файл с добычей удаляется с зараженного устройства, чтобы скрыть следы вредоносной активности.

Как оказалось, владельцы JarkaStealer продают его в Telegram по модели MaaS (Malware-as-a-Service, «вредонос как услуга»), однако за доступ уже можно не платить: исходники были опубликованы на GitHub. В рекламных сообщениях и коде зловреда обнаружены артефакты, позволяющие заключить, что автор стилера владеет русским языком.

«Обнаруженная кампания подчёркивает постоянные риски, связанные с атаками на цепочки поставок, — отметил эксперт Kaspersky GReAT Леонид Безвершенко. — При интеграции компонентов с открытым исходным кодом в процессе разработки критически важно проявлять осторожность. Мы рекомендуем организациям внедрять строгую проверку целостности кода на всех этапах разработки, чтобы убедиться в легитимности и безопасности внешнего программного обеспечения или внешних компонентов».

Тем, кто успел скачать gptplus или claudeai-eng, рекомендуется как можно скорее удалить пакет, а также обновить все пароли и сессионные токены.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru