Google: Android SafetyCore — не сканер, а классификатор контента на базе ИИ

Google: Android SafetyCore — не сканер, а классификатор контента на базе ИИ

Google: Android SafetyCore — не сканер, а классификатор контента на базе ИИ

Развертывание защиты Android System SafetyCore вызвало опасения в отношении приватности чатов. Разработчик пояснил: ИИ-приложение не сканирует контент на стороне клиента, а лишь классифицирует его по запросу Google Messages.

О намерении Google усилить защиту обмена сообщениями в Android с помощью ИИ стало известно в октябре прошлого года. Механизм SafetyCore на тот момент проходил тестирование, а теперь его начали подключать на устройствах с ОС версий 9 и выше, а также с Android Go.

«SafetyCore — это новая системная служба Android 9+, создающая на устройстве инфраструктуру для безопасной и конфиденциальной классификации контента с тем, чтобы пользователи могли отсеивать нежелательные сообщения», — заявил представитель Google в ответ на запрос The Hacker News о комментарии.

Отсутствие оснований для опасений подтвердили участники проекта GrapheneOS, которые и сами бы не прочь внедрить решение Google, но исходники SafetyCore закрыты.

«Google Messages использует новое приложение для категоризации сообщений: спам, вредоносные, обнаженка и т. п. О попытках детекта нелегального контента с отправкой отчетов на сервис здесь и речи нет».

От себя добавим: новая фича Google схожа с защитой Communication Safety, которую Apple реализовала для iMessage. Там тоже локально используется ИИ, и по результатам анализа аттачей пользователям выводятся предупреждения.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Apple учит Siri писать письма, не заглядывая в вашу переписку

Apple решила подтянуть интеллект Siri, но с умом — чтобы помощник стал полезнее, а ваша переписка осталась приватной. С выходом iOS 18.5 и macOS 15.5 появятся улучшенные фишки Apple Intelligence, и вот как их тренируют.

Как объяснила Apple в блоге, обычно модели обучаются на специально сгенерированных выдуманных письмах. В Bloomberg также подтверждают новые практики техногиганта.

Например:

«Хочешь поиграть в теннис завтра в 11:30?»

Но такие сообщения не всегда отражают настоящую манеру общения. Поэтому Apple придумала хитрый способ, как сделать синтетику более «живой».

Теперь модель будет сравнивать эти выдуманные письма с небольшим набором реальных сообщений, которые лежат на устройствах пользователей, согласившихся участвовать в анонимной аналитике. Сами письма никуда не уходят — устройство просто считает вектор, описывающий суть письма: тему, стиль, длину.

Затем этот вектор сравнивается с векторами выдуманных писем. И если, например, сообщение про теннис часто «совпадает» с реальными письмами, то в следующий раз модель создаст похожее, но про футбол. Так появляется всё более релевантный и реалистичный набор писем для обучения — и всё это без вреда для конфиденциальности.

Apple подчёркивает: конкретные письма никто не читает. Даже сами векторы не уходят с устройства. Apple видит только статистику — какие типы синтетических писем чаще «всплывают» у пользователей, так что никакой личной информации в процесс не попадает.

Ранее мы рассуждали, является ли Apple Intelligence ИИ-прорывом или кошмаром для конфиденциальности владельцев iPhone.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru