Отравление ИИ привело к реальному отравлению целой семьи

Отравление ИИ привело к реальному отравлению целой семьи

Отравление ИИ привело к реальному отравлению целой семьи

В Британии целая семья отравилась грибами, воспользовавшись рекомендацией из книги-определителя, сгенерированной искусственным интеллектом. Издание было куплено на неназванной онлайн-платформе и подарено главе семейства незадолго до инцидента.

«Вся моя семья оказалась в больнице из-за случайного отравления грибами. Мы пользовались данными из книги, которую купила моя супруга и подарила мне на день рождения», — такой пост был размещен в социальной сети Reddit.

«Она использовала оформление, схожее с известным справочником Mushrooms UK: A Guide to Harvesting Safe and Edible Mushrooms («Грибы Великобритании: Руководство по сбору съедобных грибов», переиздается уже много лет, — прим. Anti-Malware.ru). К сожалению, книга полна неточностей. Многие иллюстрации в ней сгенерированы нейросетью и не имеют никакого отношения к реальным грибам».

Автор поста нашел много неточностей и в тексте книги. Например, в ней говорилось, что сморчки начинают появляться в августе, хотя их сезон приходится на апрель-май.

При обсуждении обнаружилось, что данная проблема имеет место не первый год. Так, в 2023 г. газета The Guardian писала о том, что на маркетплейсах появились книги, посвященные сбору дикорастущих грибов, сгенерированные искусственным интеллектом, и следование их рекомендациям может быть потенциально опасным. После этой публикации Amazon снял такие книги с продажи. Однако на других платформах они могут оставаться в продаже.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

Умные аэрогрили тоже могут стать инструментом шпионажа

Британское сообщество потребителей Which? выявило еще одну угрозу приватности пользователей бытовой электроники. Исследование показало, что аэрогрили Xiaomi, Cosori и Aigostar могут шпионить за владельцами не хуже других смарт-устройств.

Многие уже в курсе, что использование бытовой IoT-техники сопряжено с рисками в отношении конфиденциальности (умные зубные щетки не в счет). Однако ожидать подобного подвоха со стороны аэрогрилей никому в голову не могло прийти.

Эти подключенные к интернету домашние помощники пока не передают диетологам данные о режиме питания своих владельцев, однако ассоциированные Android-приложения уже хотят знать точное местоположение пользователя и запрашивают разрешение на запись с микрофона.

Как выяснилось, этим грешат продукты Xiaomi, Cosori и Aigostar. Спецсофт Xiaomi также подключается к трекерам Facebook (признанна экстремистской и запрещена в России), Tencent и Pangle (рекламная сеть TikTok для бизнеса).

Аэрогриль Aigostar просит указать пол и возраст при создании аккаунта — правда, эти поля заполнять необязательно. Этот же продукт, как и печь Xiaomi, отсылает персональные данные на серверы в Китае (оговорено в Декларации конфиденциальности, но такие документы далеко не все читают).

Когда выясняется, что управляемый голосом гаджет слышит все, что происходит вокруг, это не должно удивлять: он так отслеживает подаваемые команды. Вопрос в другом — как используется эта информация, и насколько надежно смарт-устройство защищено от злоупотреблений.

При покупке умного бытового прибора эксперты советуют обратить внимание на разрешения, запрашиваемые мобильным приложением, внимательно прочесть Декларацию конфиденциальности и хорошо взвесить риски от привязки домашней утвари к интернету.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru