В Италии заблокировали ChatGPT

В Италии заблокировали ChatGPT

В Италии заблокировали ChatGPT

Италия стала первой страной в мире, временно заблокировавшей на своей территории ChatGPT. Власти будут расследовать утечки и нарушения правил конфиденциальности со стороны разработчика — американской компании OpenAI.

О том, что власти Италии блокируют ChatGPT незамедлительно, пишет издание Politico. Причиной “бана” стало нарушение основополагающего закона ЕС о конфиденциальности — Общего регламента по защите данных (GDPR). При этом подчеркивается, что решение носит временный характер и может быть пересмотрено при условии, если OpenAI станет соответствовать европейским стандартам информационной безопасности.

Итальянский регулятор по защите данных (Garante per la Protezione dei Dati Personali) настаивает на том, что у компании OpenAI нет правовых оснований, оправдывающих “массовый сбор и хранение персональных данных… для “обучения” алгоритмов” ChatGPT. Кроме того, сами сведения об итальянских пользователях собираются с нарушениями.

Только на прошлой неделе из ChatGPT “утекли” разговоры и платежные данные пользователей.

Еще одно серьезное нарушение норм ИБ — OpenAI не проверяет возраст пользователей и выдает несовершеннолетним неподходящие возрасту и развитию ответы.

Призывы притормозить новые выпуски ChatGPT и провести расследование в отношении его создателя OpenAI звучат всё громче как в Европе, так и в Америке.

Накануне Илон Маск, Стив Возняк и ещё больше тысячи учёных и предпринимателей подписали открытое письмо. В нем они просят разработчиков ИИ приостановить хотя бы на полгода обучение новых больших языковых моделей, если их целью является создание более мощной версии взамен OpenAI GPT-4.

Группа защиты прав потребителей BEUC также призвала власти ЕС и регуляторов провести расследование в отношении ChatGPT.

Хотя у компании OpenAI нет своего офиса в ЕС, у его представителя в Европейской экономической зоне есть 20 дней, чтобы сообщить, как он планирует привести ChatGPT в соответствие с правилами конфиденциальности Евросоюза. В противном случае OpenAI грозит штраф до 4% от глобального оборота.

Добавим, Италия стала первой страной в мире, ограничившей ChatGPT. Официальных комментариев от OpenAI пока нет поступало.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

Инфостилер Jarka прожил год на PyPI под видом инструментов интеграции ИИ

Эксперты «Лаборатории Касперского» нашли на PyPI два схожих пакета, якобы реализующих доступ к API популярных ИИ-моделей — GPT-4 Turbo и Claude AI. Анализ показал, что истинной целью в обоих случаях является внедрение зловреда JarkaStealer.

Вредоносные библиотеки gptplus и claudeai-eng были загружены в репозиторий Python-кодов в ноябре прошлого года, притом из-под одного и того же аккаунта. До удаления с подачи Kaspersky их скачали более 1700 раз пользователи из 30 стран (в основном жители США, Китая, Франции, Германии и России).

 

Описания содержали инструкции по созданию чатов для ИИ-ботов и примеры работы с большими языковыми моделями (БЯМ, LLM). Для имитации заявленной функциональности в код был встроен механизм взаимодействия с демопрокси ChatGPT.

При запуске параллельно происходит загрузка с GitHub файла JavaUpdater.jar — инфостилера Jarka. При отсутствии у жертвы софта Java с Dropbox скачивается JRE.

Внедряемый таким образом вредонос умеет выполнять следующие действия в системе:

  • собирать системную информацию;
  • воровать информацию из браузеров;
  • прерывать процессы Google Chrome и Microsoft Edge (чтобы вытащить сохраненные данные);
  • отыскивать сессионные токены в Telegram, Discord, Steam, чит-клиенте Minecraft;
  • делать скриншоты.

Украденные данные архивируются и передаются на C2-сервер. После этого файл с добычей удаляется с зараженного устройства, чтобы скрыть следы вредоносной активности.

Как оказалось, владельцы JarkaStealer продают его в Telegram по модели MaaS (Malware-as-a-Service, «вредонос как услуга»), однако за доступ уже можно не платить: исходники были опубликованы на GitHub. В рекламных сообщениях и коде зловреда обнаружены артефакты, позволяющие заключить, что автор стилера владеет русским языком.

«Обнаруженная кампания подчёркивает постоянные риски, связанные с атаками на цепочки поставок, — отметил эксперт Kaspersky GReAT Леонид Безвершенко. — При интеграции компонентов с открытым исходным кодом в процессе разработки критически важно проявлять осторожность. Мы рекомендуем организациям внедрять строгую проверку целостности кода на всех этапах разработки, чтобы убедиться в легитимности и безопасности внешнего программного обеспечения или внешних компонентов».

Тем, кто успел скачать gptplus или claudeai-eng, рекомендуется как можно скорее удалить пакет, а также обновить все пароли и сессионные токены.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru