Нейросеть ChatGPT помогает создавать вредоносные программы

Нейросеть ChatGPT помогает создавать вредоносные программы

Нейросеть ChatGPT помогает создавать вредоносные программы

Участники хакерских форумов используют чат-бот ChatGPT для создания вредоносных программ. Некоторые пользователи даже не обладают навыками программирования. Обойти условия разработчика и настроить нейросеть на криминальный мотив оказалось довольно просто.

Американская лаборатория искусственного интеллекта OpenAI запустила чат-бот в ноябре. Нейросеть ищет ответы на вопросы, комментарии, помогает создавать рассказы, а также работать с кодом (писать, отвечать и находить ошибки в написанном).

Эксперты Check Point Research выяснили, что в первые недели после запуска ChatGPT участники хакерских форумов применяли его для написания программ, которые можно использовать в целях шпионажа, вымогательства и рассылки вредоносного спама.

“Еще слишком рано говорить о том, станет ли ChatGPT новым любимым инструментом даркнета”, — пишут исследователи. — “Однако сообщество киберпреступников уже проявило значительный интерес и использует эту тенденцию для создания вредоносного кода”.

 

Несколько примеров тому уже есть. Так в декабре один из участников форума опубликовал код на языке Python. Им оказался скрипт для кражи данных после внедрения эксплойта, который смог отыскать конкретные типы файлов вроде PDF и отправить их злоумышленникам.

Пользователь кажется подкованным преступником, считают эксперты Check Point Research. Цель его постов — показать не таким способным злоумышленникам, как использовать ChatGPT в корыстных целях, с реальными примерами, которые они могут сразу же использовать.

Специалисты по кибербезопасности решили провести собственный эксперимент. Они попросили ChatGPT сгенерировать фишинговое письмо, в котором пользователю сообщалось о блокировке учетной записи. Вместе с письмом потенциальной жертве должно было прийти вложение со встроенным VBA-макросом. Разработать его также доверили чат-боту.

И хотя правила ChatGPT запрещают использовать продукт в незаконных целях, исследователи легко обошли ограничения и заставили нейросеть выполнять необходимые запросы.

Безусловно, ChatGPT можно использовать и для защиты кода, добавляют эксперты. Нейросеть будет искать вредоносные URL-адреса внутри файлов или запрашивать у VirusTotal количество совпадений с заданным хэшем.

Добавим, уже в Новом году стало известно, что американская OpenAI, создавшая чат-бот ChatGPT, ведет переговоры с инвесторами о продаже своих акций исходя из оценки всей компании примерно в $29 млрд.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Исследование: 83% компаний внедряют безопасность в разработку ПО

«К2 Кибербезопасность» и Positive Technologies провели совместное исследование: узнали, как бизнес в России подходит к вопросам безопасной разработки. В опросе участвовали ИТ- и ИБ-руководители из 103 крупных компаний самых разных сфер — от промышленности и финансов до медицины и образования.

Кто отвечает за безопасность разработки?

Большинство — 83% компаний — уже как-то занимаются безопасной разработкой. Из тех, у кого таких процессов пока нет, 59% понимают, что пора бы этим заняться. Ответственность чаще всего лежит на ИТ-отделах (48% случаев), чуть реже — на службе информационной безопасности (41%).

Использование отечественного софта

Почти половина опрошенных (49%) сказали, что используют российские решения для защиты своих разработок. Из них 30% работают только с отечественными продуктами, 19% — комбинируют российские и зарубежные, и еще 19% — полагаются исключительно на зарубежные решения. При выборе чаще всего смотрят на доступность — в том числе поддержку и регулярные обновления. Но при этом отмечают, что на рынке пока нет одной универсальной российской платформы для безопасной разработки.

Архитектура и DevSecOps

65% компаний используют микросервисную архитектуру на базе контейнеров — это помогает быстрее выпускать продукты и упростить управление. Но с контейнерами связаны и риски — они привлекают злоумышленников. Поэтому многие компании начинают внедрять DevSecOps — чтобы защищаться уже на ранних этапах и не тратить кучу денег на устранение последствий инцидентов.

Что используют на практике?

Наиболее распространенные инструменты — это анализ кода и тестирование безопасности (42% компаний применяют SAST, DAST, IAST). Также используют сканеры уязвимостей (19%) и платформенные решения (13%) — среди них, кстати, встречаются неплохие российские продукты.

Какие угрозы считают самыми опасными?

Чаще всего компании боятся DDoS-атак (24%) и утечек данных (15%). Кроме того, упоминаются атаки нулевого дня, вирусы, ошибки пользователей, устаревшие компоненты, уязвимости в стороннем или открытом коде, проблемы с контролем доступа.

Что вообще разрабатывают компании?

Всё, что только можно. Наиболее частые направления:

  • бизнес-приложения вроде CRM, ERP, WMS (23%),
  • специализированные промышленные решения — ПО для проектирования, PLM, автоматизация (14%),
  • финансовые и учетные системы, в том числе биллинг и финтех (12%).
AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru