Новая ИИ-модель копирует собеседника путем проведения опроса

Новая ИИ-модель копирует собеседника путем проведения опроса

Новая ИИ-модель копирует собеседника путем проведения опроса

Исследователи из трех американских университетов и команды Google DeepMind создали модель генеративного ИИ, способную после двухчасового аудиоинтервью сымитировать личность и поведение собеседника с точностью до 85%.

В контрольную выборку вошли 1052 добровольца разного возраста, пола, образования, достатка, национальности, вероисповедания и политических взглядов. Для всех были созданы индивидуальные программы-агенты одинаковой архитектуры.

Разработанный сценарий бесед включал обычные для социологических исследований вопросы, тесты «Большая пятерка» для построения модели личности, пять экономических игр («Диктатор», «Общественное благо» и проч.) и поведенческую анкету, составленную в ходе недавних экспериментов с большими языковыми моделями (БЯМ, LLM).

Ответы испытуемых сохранялись в памяти для использования в качестве контекста. Спустя две недели добровольцам предложили пройти тот же опрос, и LLM смогла предугадать их реплики с точностью до 85%.

 

По мнению авторов исследования, их метод создания цифровых двойников — хорошее подспорье в изучении индивидуального и коллективного поведения. Полученные результаты также можно использовать в социологии и для выработки политических решений.

К сожалению, совершенствование ИИ-технологий — палка о двух концах. Попав в руки злоумышленников, подобный инструмент позволит создавать еще более убедительные дипфейки, чтобы вводить в заблуждение интернет-пользователей с корыстной либо иной неблаговидной целью.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В Bluetooth-чипе ESP32 нашли бэкдор, в зоне риска миллиард устройств

Специалисты компании Tarlogic Security обнаружили недокументированные команды в микрочипе ESP32, который используется более чем в миллиарде «умных» устройств по всему миру.

ESP32 разрабатывается китайской компаний Espressif и широко применяется в IoT-устройствах для обеспечения связи по Wi-Fi и Bluetooth.

Исследователи выявили в общей сложности 29 скрытых команд в прошивке микрочипа, с помощью которых можно манипулировать памятью устройства (чтение и запись в RAM и флеш-память), подделывать MAC-адреса и внедрять вредоносные пакеты данных.

Эксплуатация этого «бэкдора» (CVE-2025-27840) позволяет злоумышленникам получить полный контроль над устройствами незаметно для пользователей, а также обходить системы аудита кода и осуществлять атаки на другие подключённые устройства в сети, включая мобильные телефоны, компьютеры, умные замки и медицинское оборудование.

Для детектирования этих скрытых команд исследователи разработали специальный драйвер, позволяющий напрямую взаимодействовать с аппаратным обеспечением вне зависимости от операционной системы.

Этот инструмент значительно упростил обнаружение уязвимостей и потенциального веткора атаки.

Обычно использование скрытых команд требует физического доступа к устройству, однако исследователи предупреждают о возможных сценариях удалённой эксплуатации через вредоносные прошивки или скомпрометированные обновления.

Компания Espressif пока публично не прокомментировала наличие скрытых команд в своих устройствах.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru