Отравление ИИ привело к реальному отравлению целой семьи

Отравление ИИ привело к реальному отравлению целой семьи

В Британии целая семья отравилась грибами, воспользовавшись рекомендацией из книги-определителя, сгенерированной искусственным интеллектом. Издание было куплено на неназванной онлайн-платформе и подарено главе семейства незадолго до инцидента.

«Вся моя семья оказалась в больнице из-за случайного отравления грибами. Мы пользовались данными из книги, которую купила моя супруга и подарила мне на день рождения», — такой пост был размещен в социальной сети Reddit.

«Она использовала оформление, схожее с известным справочником Mushrooms UK: A Guide to Harvesting Safe and Edible Mushrooms («Грибы Великобритании: Руководство по сбору съедобных грибов», переиздается уже много лет, — прим. Anti-Malware.ru). К сожалению, книга полна неточностей. Многие иллюстрации в ней сгенерированы нейросетью и не имеют никакого отношения к реальным грибам».

Автор поста нашел много неточностей и в тексте книги. Например, в ней говорилось, что сморчки начинают появляться в августе, хотя их сезон приходится на апрель-май.

При обсуждении обнаружилось, что данная проблема имеет место не первый год. Так, в 2023 г. газета The Guardian писала о том, что на маркетплейсах появились книги, посвященные сбору дикорастущих грибов, сгенерированные искусственным интеллектом, и следование их рекомендациям может быть потенциально опасным. После этой публикации Amazon снял такие книги с продажи. Однако на других платформах они могут оставаться в продаже.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

PT Sandbox подружился еще с одним антивирусом — белорусским VBA32

В комплект поставки PT Sandbox включен антивирус VBA32 разработки «ВИРУСБЛОКАДА». Интеграция нового движка призвана расширить возможности продукта по обнаружению известных вредоносов и повысить эффективность защиты от массовых атак.

Песочница PT Sandbox проводит статический анализ кодов, используя экспертизу Positive Technologies и сторонних производителей. С этой целью ей приданы функции мультисканера, позволяющие просматривать базы сигнатур поддерживаемых антивирусов.

Разработчики надеются, что добавление VBA32 в арсенал PT Sandbox и PT MultiScanner расширит покрытие киберугроз этими инструментами защиты. По данным ИБ-компании OPSWAT, один антивирус детектирует от 40% до 80% вредоносных программ, при подключении других движков показатель может превысить 99%.

Использование антивирусов различного производства также соответствует регуляторным требованиям по ИБ критически важной инфраструктуры (КИИ). Приказ ФСТЭК России № 239 от 25 декабря 2017 года, например, диктует принятие такой меры защиты на объектах КИИ первой категории значимости.

«Мы провели большую работу, чтобы максимально расширить возможности статического анализа PT Sandbox по детектированию вредоносного ПО, используя экспертизу всех доступных на российском рынке антивирусных решений, — заявил Сергей Осипов, возглавляющий в PT направление защиты от вредоносного софта. — Экспертиза вендора [“ВИРУСБЛОКАДА”] значительно усилит возможности PT Sandbox и PT MultiScanner».

Совместимость продуктов PT и белорусского разработчика антивирусов подтверждена тестами. Поддержка VBA32 доступна в PT Sandbox версий 5.13.0 и выше на безвозмездной основе. Включение движка в комплект осуществляется запросом в техподдержку.

В прошлом году в PT Sandbox была реализована поддержка еще одного бесплатного антивируса — NANO. Пользователям также доступен ClamAV разработки Cisco. Обновление антивирусных баз происходит автоматически с серверов PT.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru