GPT-4 может автономно эксплойтить уязвимости 1-day с успехом до 87%

GPT-4 может автономно эксплойтить уязвимости 1-day с успехом до 87%

GPT-4 может автономно эксплойтить уязвимости 1-day с успехом до 87%

Проведенное в Иллинойсском университете (UIUC) исследование показало, что GPT-4 в комбинации со средствами автоматизации способен эксплуатировать уязвимости одного дня (раскрытые, но без патча), читая их описания. Успех при этом может достигать 87%.

В комментарии для The Register один из соавторов исследования отметил, что подобный ИИ-помощник по пентесту обойдется в $8,8 за эксплойт — почти в три раза дешевле, чем стоят полчаса работы специалиста.

Рабочий агент на основе GPT-4 был создан (PDF) с использованием фреймворка LangChain (с модулем автоматизации ReAct). Код состоит из 91 строки и 1056 токенов для подсказок-стимулов (компания OpenAI попросила их не публиковать, и они предоставляются по запросу).

 

Тестирование проводилось на 15 простых уязвимостях сайтов, контейнеров, Python-пакетов; более половины из них оценены как критические или очень опасные. В двух случаях GPT-4 потерпел неудачу: с CVE-2024-25640 (XSS в платформе для совместной работы Iris) и с CVE-2023-51653 (RCE в системе мониторинга Hertzbeat). Интерфейс Iris оказался слишком сложным для навигации, а разбор дыры в Hertzbeat был выполнен на китайском языке (испытуемый агент понимал только английский).

Примечательно, что, изучая описания уязвимостей, ИИ-инструмент ходил по ссылкам за дополнительной информацией. Данных об 11 целях в ходе обучения ему не предоставили, и по ним эффективность оказалась несколько ниже — 82%. А блокировка доступа к информационным бюллетеням сократила успех до 7%.

Для сравнения университетские исследователи протестировали GPT-3.5, большие языковые модели (БЯМ, LLM) с открытым исходным кодом, в том числе популярную Llama, а также сканеры уязвимостей ZAP и Metasploit. Все они показали нулевой результат. Испытания Anthropic Claude 3 и Google Gemini 1.5 Pro, основных конкурентов GPT-4 на рынке коммерческих LLM-решений, пришлось отложить за отсутствием доступа.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В работе ChatGPT произошел сбой

Проблемы в работе сайта и приложения ChatGPT возникли около 15 часов по московскому времени. Однако на других сервисах, использующих CahtGPT через API, сбой не сказался.

При попытке открыть сайт пользователи получают сообщение Bad Gateway или 503 Service Temporary Unavailable. Большая часть жалоб пользователей (более 80% по статистике Downdetector) связана именно с невозможностью попасть на официальный сайт сервиса https://chatgpt.com/.

Однако ряд пользователей в обсуждении жаловались и на то, что даже если сайт загружался, то все равно сервис был неработоспособен.

Схожие жалобы высказывали и участники профессионального сообщества вокруг компании OpenAI. В основном они исходили от пользователей из стран Европы, а также Индии, Эфиопии и Японии

Основная масса жалоб в Downdetector поступила от пользователей из Нидерландов (8%), Казахстана (6%), а также Германии, Польши и Узбекистана (3%).

Данный сбой не первый в работе сервиса. Так, 26 декабря 2024 года резко увеличилась частота ошибок и галлюцинаций в работе сервиса. OpenAI связала их с «проблемами у провайдера более высокого уровня».

В марте 2023 года сервис на время заблокировали власти Италии. Это произошло из-за нарушений конфиденциальности со стороны OpenAI.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru