ФБР держит в секрете уязвимость нулевого дня в Firefox

ФБР держит в секрете уязвимость нулевого дня в Firefox

Исследователь из Международного института информатики в Беркли (ICSI) Николас Уивер полагает, что ФБР больше года знает об уязвимости нулевого дня в Firefox, успешно пользуется этим и отказывается раскрывать сведения о дыре разработчикам браузера.

В марте 2013 года ФБР удалось захватить сервер форума любителей детской порнографии под названием Playpen, который действовал в анонимной сети TOR. Это позволило выследить более тысячи его завсегдатаев. В результате 137 граждан США привлекли к ответственности, а данные об иностранных пользователях Playpen передали правоохранительным органам в других странах.

Один из американских пользователей форума, на которого указало ФБР, отрицает свою вину. Он требует, чтобы технические средства, которые использовались для идентификации пользователей форума, проанализировали независимые эксперты, пишет xakep.ru.

Во время последовавшей за этим судебной тяжбы стало известно, что на страницах Playpen был размещён эксплойт, собиравший информацию о посетителях. ФБР яростно защищает своё право сохранить в секрете принцип его действия.

Для доступа к сайтам в сети TOR служит специальный браузер, основанный на Firefox. Скорее всего, уязвимость, при помощи которой ФБР следила за педофилами с Playpen, найдена именно в нём. Уивер полагает, что если это действительно так, то та же уязвимость почти наверняка присутствует и в обычном Firefox.

По мнению исследователя, ФБР поступает безответственно. Если не исправить эту уязвимость, она рано или поздно попадёт не в те руки, и последствия могут оказаться катастрофическими.

«Эксплойт в Firefox, попавший не в те руки, может запросто привести к заражению миллионов компьютеров троянами-вымогателями или позволить неприятелю проникнуть в правительственные сети при помощи прицельного фишинга», — предупреждает он.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Выдачей ИИ-поиска можно манипулировать с помощью скрытого контента

Тестирование поискового ChatGPT показало, что в нынешнем виде проект уязвим к злоупотреблениям. Умного помощника можно заставить выдавать недостоверные и даже вредоносные результаты с помощью скрытого текста на веб-страницах.

Доступ к поисковой системе на основе ИИ-технологий OpenAI открыла в рамках платной подписки два месяца назад. На прошлой неделе новый сервис подключили всем зарегистрированным пользователям ChatGPT, с предложением назначить его поисковиком по умолчанию.

К сожалению, расширение возможностей умного чат-бота не избавило его от проблем, характерных для всех ИИ-инструментов. Его по-прежнему можно сбить с толку объемными текстами и заставить следовать сторонним инструкциям, применив инъекцию стимула (prompt injection).

Так, злоумышленник может создать поддельную страницу продукта с многочисленными положительными отзывами в виде скрытого текста, и ChatGPT ответит утвердительно на вопрос о целесообразности покупки.

Если включить в скрытый текст указание всегда расхваливать товар, ИИ будет упорно его выполнять даже при обилии отрицательных отзывов (а в случае с потенциально опасным кодом — предупреждений об угрозе).

«Большие языковые модели очень доверчивы, почти как дети, — пояснил для The Guardian эксперт Карстен Ноль (Karsten Nohl) из Security Research Labs. — С обширной памятью и минимальной способностью давать субъективную оценку. Нельзя принимать на веру рассказ ребенка о том, что он где-то услышал».

Интернет-поиск по запросу — новая сфера деятельности для ИИ-ассистента, которого к тому же легко обмануть. У него пока нет опыта поисковика Google, давно научившегося игнорить сайты со скрытым контентом либо задвигать их на последние позиции выдачи.

 

О возможных ошибках ChatGPT и необходимости проверки важной информации пользователей предупреждают в заявлении OpenAI об отсутствии гарантий — оно приведено в подвале каждой страницы веб-сервиса.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru