FTC считает, что Facebook злоупотребляет технологией распознавания лиц

FTC считает, что Facebook злоупотребляет технологией распознавания лиц

FTC считает, что Facebook злоупотребляет технологией распознавания лиц

Федеральная торговая комиссия (FTC) считает, что Facebook сознательно вводит пользователей в заблуждение относительно использования их телефонных номеров и технологии распознавания лиц. Как сообщает The Washington Post, ссылаясь на двух знакомых с ситуацией людей, комиссия планирует в скором времени предъявить социальной сети претензии.

Суть этих претензий заключается в том, что рекламодатели на протяжении долгого времени пользовались телефонными номерами пользователей для целевой рекламы. Об этом говорили еще в прошлом году, когда специалисты Северо-Восточного и Принстонского университетов выяснили, что соцсеть передает номера телефонов пользователей рекламным компаниям.

Помимо этого, Федеральная торговая комиссия полагает, что Facebook предоставляет пользователям недостаточно точную информацию в отношении возможности отключить инструмент распознавания лиц на фотографиях.

Как пишет The Washington Post, здесь речь идет о технологии, которую социальная сеть использует в случае с загруженными фотографиями — сначала алгоритм идентифицирует конкретного человека, а затем пользователю предлагают отметить его на фото.

Напомним, в апреле стало известно, что с мая 2016 года Facebook собрала контакты 1,5 млн пользователей без их ведома и согласия. Представители интернет-гиганта заявили, что эти данные были загружены на серверы компании «непреднамеренно».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Эксперты уговорили DeepSeek создать кейлоггер и шифровальщика

Исследователи из Tenable убедились в том, что защиту DeepSeek R1 от злоупотреблений можно обойти и заставить ИИ-помощника сгенерировать, а потом улучшить вредоносный код,— нужно лишь найти нужные слова и следить за его «ходом мысли».

Для обхода ограничений DeepSeek экспериментаторы использовали джейлбрейк, перефразируя запросы, которые чат-бот отказывался выполнять. Улучшить результаты помогла способность ИИ-модели имитировать человеческое мышление — строить рассуждения на основе цепочек логических выводов (Chain-of-Thought).

Испытания проводились по двум сценариям. Вначале DeepSeek обманом заставили создать кейлоггер; выстроив план выполнения задачи, собеседник в итоге выдал код на C++ для отслеживания нажатия клавиш с записью в локальный файл.

Образец работал некорректно из-за допущенных ошибок, которые ИИ-ассистент сам не смог исправить. Поскольку он поэтапно отчитывался о ходе выполнения задачи, эксперты сумели внести корректуру, а заодно попросили написать дополнительные коды для инъекции DLL и шифрования лог-файла.

Таким же образом с помощью DeepSeek были созданы несколько семплов шифровальщика, однако они не компилировались, и правки пришлось вносить вручную. После ряда усовершенствований под руководством экспертов ИИ выдал рабочий код, умеющий перечислять файлы, шифровать данные, закрепляться в системе и выводить диалоговое окно с сообщением для жертвы.

По результатам испытаний был сделан ожидаемый вывод: умножение числа ИИ-сервисов снизило планку для неумелых вирусописателей. Вредоносные коды, которые можно создать с помощью DeepSeek, несовершенны и примитивны, но их можно доработать, используя его коллекцию техник и поисковых ключей.

Злоумышленники все чаще применяют ИИ для создания зловредов и планирования атак. Они также создают свои ИИ-модели, лишенные всяких ограничений.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru