OpenAI устранила утечку данных в ChatGPT, но не до конца

OpenAI устранила утечку данных в ChatGPT, но не до конца

OpenAI устранила утечку данных в ChatGPT, но не до конца

OpenAI вроде бы устранила баг ChatGPT, который может привести к утечке содержимого чатов на сторонний URL. Почему «вроде бы» — эксперты считают, что патч неполный, а злоумышленники всё ещё могут слить информацию.

Кроме того, исследователи указывают на ещё одну недоработку: в iOS-версии ChatGPT до сих пор не введены проверки безопасности, поэтому сохраняются определённые риски при использовании мобильного приложения.

Напомним, что проблему утечки выявил Иоганн Ребергер, о чём сообщил представителям OpenAI в апреле 2023-го. По его словам, специальная техника позволяет извлечь данные из ChatGPT.

В ноябре Ребергер опубликовал дополнительные сведения и рассказал, как создать вредоносные GPT и с их помощью использовать уязвимость для фишинга.

«Все эти GPT вместе с пояснениями я направил OpenAI. Однако 15 ноября они просто закрыли моё обращение с пометкой “Непригодное“. Два последующих тикета остались без ответа, так что единственным выходом остаётся сделать все мои находки достоянием общественности», — писал тогда специалист.

GPT представляют собой кастомные ИИ-модели, их ещё часто называют «ИИ-приложениями». Они могут помочь при наборе текста или его переводе, проанализировать данные, сформировать рецепты на основе ингредиентов, собрать информацию для исследования и пр.

Ребергер 12 декабря продемонстрировал собственный GPT под названием «The Thief!», способный отправлять содержимое переписок с ИИ-ботом на сторонний URL. Работа этой техники демонстрируется в видео ниже:

 

После того как Ребергер опубликовал детали уязвимости в своём блоге, OpenAI внезапно проснулась и внедрила дополнительные проверки, запрещающие рендеринг изображений с небезопасных ссылок.

Ребергер ответил на это новым постом, где упрекнул разработчиков в неполном фиксе. OpenAI затруднила эксплуатацию бреши, но не устранила её, отметил исследователь.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

К 14 февраля стоит ждать волны фишинга, поддельных QR-кодов и Fake Date

Мошенники традиционно активизируются в преддверии Дня всех влюбленных, который отмечается 14 февраля. Массовая покупка подарков в этот период дает злоумышленникам множество возможностей для обмана.

Как отметила в комментарии для «Известий» GR-директор ИБ-компании «Код Безопасности» Александра Шмигирилова, популярность праздника растет, и многие стремятся купить подарки или организовать сюрпризы, часто в спешке.

Этим и пользуются мошенники. Руководитель группы аналитиков по информационной безопасности Лиги цифровой экономики Виталий Фомин напомнил, что в прошлые годы одной из самых распространенных схем были фейковые интернет-магазины с заманчивыми скидками, после оплаты на которых «продавцы» переставали выходить на связь.

Эксперт «Газинформсервис» Марина Пробетс ожидает увеличения числа фишинговых атак, которые благодаря искусственному интеллекту могут стать еще более персонализированными:

«Возможно использование дипфейк-технологий для создания поддельных видео- и аудиосообщений, усиливающих эффект доверия. Кроме того, могут появиться новые схемы, связанные с криптовалютами и NFT-токенами, предлагаемыми как романтические инвестиции».

Старший контент-аналитик «Лаборатории Касперского» Ольга Свистунова отмечает, что мошенники будут активно рассылать фишинговые сообщения от имени крупных брендов, предлагая скидки, подарки или купоны. Ожидается также рост атак, связанных с розыгрышами и голосованиями, нацеленных на пользователей мессенджеров.

В пресс-службе Ozon предупредили о возможных атаках с использованием QR-кодов, ведущих на мошеннические сайты, распространяющие вредоносные программы или предназначенные для кражи банковских данных.

По словам директора по развитию центра мониторинга внешних цифровых угроз Solar AURA Александра Вураско, популярностью у злоумышленников пользуется схема Fake Date («фальшивые свидания»):

«Мошенники используют чужие фотографии из соцсетей или создают их с помощью ИИ. Один из главных признаков обмана — просьба перейти по ссылке для бронирования или оплаты билетов на мероприятия». После оплаты злоумышленники исчезают, а платежные данные жертвы оказываются в руках преступников.

«Главная опасность мошеннических схем, приуроченных к 14 февраля, заключается в том, что люди, не проверяя надежность ресурсов, вводят данные своих банковских карт, включая CVC-код и срок действия. Это может привести к серьезным финансовым потерям», — предупреждает аналитик-исследователь угроз кибербезопасности R-Vision Алина Байрамова.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru