Google Messages использует маячки из чатов для тренировки ИИ-антиспама

Google Messages использует маячки из чатов для тренировки ИИ-антиспама

Google доработала защитную функциональность приложения Messages, «родного» мессенджера в мобильной операционной системе Android. Теперь функция обнаружения спама будет опираться в том числе на ИИ, обучающийся на маячках из незашифрованных чатов.

Задача фичи — отсеивать нежелательные или откровенно вредоносные СМС-сообщения. Опция обнаружения спама по умолчанию включена в Google Messages.

В идеале все потенциально опасные сообщения должны складываться в специальную директорию — «Спам», при этом все личные переписки пользователя, по словам разработчиков, не сканируются.

«С активированной функцией обнаружения спама ваши переписки остаются приватными», — гласит официальная документация.

Кроме того, Google добавила в спам-детектор алгоритмы машинного обучения, которые будут выискивать в сообщениях определённые паттерны, потенциально указывающие на спам.

Например, будет проверяться наличие ссылок во входящих СМС-сообщениях. Если таковые имеются, система направит их Google, чтобы убедиться в безвредности. При этом куски подозрительного текста будут расцениваться как «маячки», на которых и обучается ИИ-модель.

В Google подчёркивают, что антиспам будет анализировать текст исключительно в незашифрованных переписках, чтобы ваши личные коммуникации остались нетронутыми.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

Сеть и браузер Tor всё ещё безопасны, успокаивают нас разработчики

Представители Tor Project пытаются убедить пользователей в том, что одноимённая сеть всё ещё безопасна и не угрожает конфиденциальности. Эти заявления появились на фоне информации о совместной работе правоохранителей нескольких стран над деанонимизацией пользователей Tor.

В частности, ранее утверждалось, что полиция Германии совместно с правоохранительными органами других стран пытаются задействовать так называемые атаки по таймингу, чтобы раскрыть личности ряда злоумышленников.

Тем не менее разработчики Tor отметили грамотные защитные меры, реализованные в последних версиях сети. Атаки с использованием анализа времени — давно известная техника, от которой существуют эффективные меры защиты.

Интерес правоохранителей понять, конечно, можно. Здесь обоснование такое же, как в истории с Павлом Дуровым и его Telegram: Tor используют не только обычные люди, но и киберпреступники, управляющие нелегальными торговыми площадками.

Как отметил недавно немецкий ресурс Panorama, ознакомившийся с соответствующими судебными документами, правоохранительные органы задействуют атаки по таймингу с помощью большого числа узлов Tor, которые находятся под их контролем.

Задача этой операции заключалась в пресечении деятельности Boystown, печально известной жестоким обращением с детьми, а также в поимке всех операторов этой платформы.

В Tor Project выразили негодование по поводу того, что им не предоставили доступ к упомянутым документам. В официальном заявлении пользователей пытаются успокоить:

«Операция правоохранительных органов проходила с 2019 по 2021 год, но с тех пор наша сеть успела заметно развиться. Сейчас провести атаки по таймингу уже гораздо труднее».

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru