Google заблокировал аккаунт отца, отправившего врачам обнажённого сына

Google заблокировал аккаунт отца, отправившего врачам обнажённого сына

Google заблокировал аккаунт отца, отправившего врачам обнажённого сына

Автоматическая система Google по распознанию детского порно блокирует аккаунты родителей, обратившихся за помощью к педиатрам. Техногигант заявляет на пользователей в полицию, восстановить доступ к сервисам невозможно.

О таких историях пишет The New York Times. Технологические гиганты ежегодно отмечают миллионы детских фотографий как потенциально опасный контент. В 2021 году только один Google отправил 600 тыс. подобных отчетов и отключил 270 тыс. аккаунтов.

Журналисты приводят истории двух американских отцов, которые обращались за помощью к педиатрам. Беспокойство родителей вызывали половые органы подростков. Для онлайн-консультации клиники просили сфотографировать гениталии детей.

Через два дня после того, как родители сделали фото на свои Android-смартфоны и отправили снимки по электронной почте врачам, аккаунты отцов были заблокированы. Они потеряли доступ к облачным хранилищам, контактам, почте и мессенджеру.

Google также уведомил полицию о недопустимом контенте. В обоих случаях шериф разобрался в ситуации и закрыл дела. При этом сам Google отказался вернуть доступ к заблокированным ресурсам. На все запросы техногигант ответил отказом без дальнейших объяснений.

Первым шагом в борьбе с распространением детского порно стала база PhotoDNA, выпущенная Microsoft в 2009 году. Изображения недопустимого характера преобразовываются в уникальные цифровые коды. На вооружение систему взяли многие технологические компании, включая запрещенный в России Facebook (Facebook принадлежит Meta, признанной экстремистской в России).

Эта технология и отметила фотографии детей, отправленные педиатрам через сервисы Google. На обвинения во вмешательстве в частную жизнь, представители техногиганта отвечают, что система сканирует фотоальбомы только в том случае, если владелец Android-устройства добровольно соглашается на это, например, когда сохраняет фото в облаке.

В январе 2020 года стало известно, что Apple тоже сканирует “облачные” фотография пользователей на предмет эксплуатации детских изображений.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В атаках на финансовый сектор используется SSRF-уязвимость в ChatGPT

Исследователи из Veriti третий месяц фиксируют атаки на корпоративные сети с использованием SSRF-уязвимости, выявленной в инфраструктуре ChatGPT компании OpenAI. Временами число попыток эксплойта превышает 10 тыс. в неделю.

Больше прочих от атак страдают финансовые организации, полагающиеся на ИИ-сервисы и интеграцию соответствующих API. Успешный эксплойт грозит им утечками, несанкционированными транзакциями, штрафами регуляторов, потерей репутации и оттоком клиентуры.

Злоумышленники также уделяют большое внимание госсектору США.

 

Уязвимость подмены запросов на стороне сервера, о которой идет речь (CVE-2024-27564, 6,5 балла CVSS) позволяет внедрять вредоносные URL в пользовательский ввод. В итоге приложение начнет подавать несанкционированные запросы от имени юзера.

Эксплойт не требует аутентификации и, по данным Veriti, актуален для 35% проверенных организаций — из-за неадекватных настроек IPS, WAF, а также изначально допущенных ошибок в конфигурации межсетевых экранов.

Аналитики выявили полтора десятка IP-адресов с разной пропиской, принимающих участие в атаках. С одного из них было суммарно совершено 10 479 попыток эксплойта.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru