Нейросеть ChatGPT помогает создавать вредоносные программы

Нейросеть ChatGPT помогает создавать вредоносные программы

Нейросеть ChatGPT помогает создавать вредоносные программы

Участники хакерских форумов используют чат-бот ChatGPT для создания вредоносных программ. Некоторые пользователи даже не обладают навыками программирования. Обойти условия разработчика и настроить нейросеть на криминальный мотив оказалось довольно просто.

Американская лаборатория искусственного интеллекта OpenAI запустила чат-бот в ноябре. Нейросеть ищет ответы на вопросы, комментарии, помогает создавать рассказы, а также работать с кодом (писать, отвечать и находить ошибки в написанном).

Эксперты Check Point Research выяснили, что в первые недели после запуска ChatGPT участники хакерских форумов применяли его для написания программ, которые можно использовать в целях шпионажа, вымогательства и рассылки вредоносного спама.

“Еще слишком рано говорить о том, станет ли ChatGPT новым любимым инструментом даркнета”, — пишут исследователи. — “Однако сообщество киберпреступников уже проявило значительный интерес и использует эту тенденцию для создания вредоносного кода”.

 

Несколько примеров тому уже есть. Так в декабре один из участников форума опубликовал код на языке Python. Им оказался скрипт для кражи данных после внедрения эксплойта, который смог отыскать конкретные типы файлов вроде PDF и отправить их злоумышленникам.

Пользователь кажется подкованным преступником, считают эксперты Check Point Research. Цель его постов — показать не таким способным злоумышленникам, как использовать ChatGPT в корыстных целях, с реальными примерами, которые они могут сразу же использовать.

Специалисты по кибербезопасности решили провести собственный эксперимент. Они попросили ChatGPT сгенерировать фишинговое письмо, в котором пользователю сообщалось о блокировке учетной записи. Вместе с письмом потенциальной жертве должно было прийти вложение со встроенным VBA-макросом. Разработать его также доверили чат-боту.

И хотя правила ChatGPT запрещают использовать продукт в незаконных целях, исследователи легко обошли ограничения и заставили нейросеть выполнять необходимые запросы.

Безусловно, ChatGPT можно использовать и для защиты кода, добавляют эксперты. Нейросеть будет искать вредоносные URL-адреса внутри файлов или запрашивать у VirusTotal количество совпадений с заданным хэшем.

Добавим, уже в Новом году стало известно, что американская OpenAI, создавшая чат-бот ChatGPT, ведет переговоры с инвесторами о продаже своих акций исходя из оценки всей компании примерно в $29 млрд.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Avanpost FAM успешно прошла проверку защищенности F.A.C.C.T.

Avanpost FAM/MFA+, система единой аутентификации сотрудников в корпоративных ресурсах организации, успешно прошла анализ защищенности. Работы выполнялись компанией F.A.C.C.T.

Avanpost Federated Access Manager (Avanpost FAM) — локальное (on-premise) решение класса Enterprise IAM (Enterprise Identity & Access Management, корпоративное управление идентификацией и аутентификацией) производства компании Avanpost.

Avanpost FAM и Avanpost MFA+ применяются для обеспечения безопасности работы сотрудников, работающих в удаленном и гибридном режиме. В них используется целый ряд архитектурных решений для безопасного размещения модулей, публикуемых в Сети.

В ходе тестирования были проведены проверки по различным значимым направлениям безопасности, включая нарушение контроля доступа, сбои в работе криптографической подсистемы, внедрение кода, небезопасный дизайн, неправильную конфигурацию, уязвимые и устаревшие компоненты, подделку запросов на стороне сервера, а также ошибки идентификации и аутентификации.

Сотрудники F.A.C.C.T. применяли методику анализа защищенности веб-приложений, основанную на многолетнем опыте компании.  Для тестирования был подготовлен стенд с типовой схемой размещения Avanpost FAM/MFA+ с применением компонентов Avanpost для безопасной публикации API и веб-интерфейсов продукта в интернете. Использовались Avanpost FAM SelfService, Avanpost FAM Mobile Services.

«В ходе анализа защищенности веб-приложения был выполнен поиск уязвимостей в механизмах аутентификации и авторизации, таких как OAuth2/OpenID и SAML в режиме Identity Provider, а также протестировано API мобильного приложения Avanpost Authenticator, и все работы были проведены успешно, — рассказал Евгений Янов, руководитель департамента аудита и консалтинга компании F.A.C.C.T. — Выявленные при тестировании незначительные недостатки не могут негативно повлиять на уровень безопасности инфраструктуры заказчиков при соблюдении ими рекомендаций и указаний, приведенных в документации на продукт».

«Мы постоянно инвестируем в повышение защищенности ПО Avanpost и продолжим работу по его совершенствованию, чтобы обеспечивать клиентам надежную защиту данных. Базой каждого нашего продукта являются технологические знания, а также философия ответственности перед клиентами. Это означает, что мы стремимся не только к созданию высококачественного программного обеспечения, но и к формированию доверительных отношений, которые основаны на прозрачности и заботе о безопасности данных пользователей», – комментирует технический директор Avanpost Александр Махновский.

«Любое средство защиты информации должно эффективно решать задачи бизнеса и выполнять свое предназначение – это закон. И тот факт, что само СЗИ должно быть хорошо защищено – это тоже закон. Для нас контроль и повышение защищённости наших продуктов – каждодневный, рутинный процесс. Прохождение тестирования на проникновение стало для нас подтверждением, что архитектура Avanpost FAM/MFA+, применённая в продукте для публикации интерфейсов аутентификации в интернет, позволяет обеспечить высокий уровень защиты данных сотрудников и не создаёт дополнительных рисков безопасности для инфраструктур наших заказчиков», – говорит Дмитрий Грудинин, руководитель развития продуктовой линейки аутентификации Avanpost FAM/MFA+.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru