Google усилила контроль над исследованиями с щекотливыми темами

Google усилила контроль над исследованиями с щекотливыми темами

Google усилила контроль над исследованиями с щекотливыми темами

Судя по внутренним документам, попавшим в руки журналистов, в компании Google введен дополнительный уровень контроля над научными публикациями, способными пошатнуть ее репутацию.  Проводимые в Google исследования нередко поднимают вопросы этического или политического характера, и позиция авторов при этом бывает нелицеприятной.

Закручивание гаек в цензуре началось вскоре после увольнения Тимнит Гебру (Timnit Gebru),  руководителя исследований Google по вопросам этики интеграции искусственного интеллекта в программные продукты. В своей работе автор поставила под сомнение объективность алгоритмов ИИ, а также заявила, что подобные средства имитации речи создадут проблемы для маргинализованных слоев населения.

Последние годы Google, по данным Reuters, активно внедряет ИИ в свои сервисы, используя эту технологию для интерпретации сложных поисковых запросов, принятия решений по рекомендациям на YouTube и автозаполнения предложений в письмах пользователей Gmail.

Перекосы в таких Google-сервисах, согласно новой политике компании, являются «деликатным» вопросом, наряду с такими темами, как сбор данных геолокации, персонализация веб-контента, безопасность жилища, беспилотные автомобили, страхование, религия, COVID-19, добыча нефти, взаимоотношения с Китаем, Израилем и Ираном.

В ходе интервью исследователи из Google отметили, что им настоятельно рекомендовано подавать материалы в «позитивном ключе» и подвергнуть их дополнительному аудиту на наличие «дезинформации, предвзятых или несправедливых заключений», а также субъективности в подборе содержимого, способной привести к поляризации мнений. Более того, новый уклад компании расширяет возможность вмешательства сверху на заключительных этапах работы исследователей.

Комментируя нововведения Google, журналисты не преминули отметить, что на своем сайте компания во всеуслышание утверждает, что ее исследователи пользуются «значительной» свободой. Усиление цензуры, по мнению «Рейтер», в данном случае излишне: все научные публикации и без того достаточно тщательно просеиваются, проходя через советы по этике, армии рецензентов и другие привычные этапы оценки.

К сожалению, таковы издержки проведения исследований под крылом крупной компании. Если у нее достаточно большой авторитет в определенной сфере, она неизбежно будет пытаться пресечь публикации работ, способных ущемить ее интересы. Так, помимо Google технологии ИИ ныне активно продвигают такие гиганты ИТ-индустрии, как Facebook, Apple и Microsoft, и у них тоже есть причины опасаться критики в свой адрес.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Кибермошенники готовят новые схемы атак к 8 марта с помощью ИИ

Злоумышленники активно используют стремление людей приобрести подарки и их готовность тратить больше средств в праздничные периоды. Хотя в основном применяются уже знакомые схемы мошенничества, эксперты прогнозируют заметный рост количества атак с применением технологий искусственного интеллекта.

Как отметил руководитель группы аналитиков по информационной безопасности Лиги цифровой экономики Виталий Фомин в комментарии для «Известий», мошенники особенно часто пользуются невнимательностью покупателей, которые в спешке выбирают подарки.

В результате возрастает риск потерять деньги или столкнуться с утечкой критически важных данных, а зачастую происходят оба инцидента одновременно.

GR-директор компании «Код безопасности» Александра Шмигирилова подчеркнула, что во многих случаях подарки приобретаются не для одного человека, а для целого коллектива, что позволяет злоумышленникам рассчитывать на гораздо большую прибыль, чем обычно.

Интернет-аналитик компании «Газинформсервис» Марина Пробетс отметила, что в преддверии 8 марта мошенники чаще всего используют традиционные методы: распространение фишинговых ссылок с обещаниями скидок и акций, а также создание поддельных сайтов известных интернет-магазинов и служб доставки цветов. Эти схемы характерны и для других праздничных периодов, таких как Новый год, День всех влюблённых и День защитника Отечества.

Однако, по словам аналитика и исследователя угроз кибербезопасности компании R-Vision Алины Байрамовой, подобные сайты обычно существуют всего несколько дней, успевая собрать деньги и исчезнуть до того, как их деятельность будет раскрыта. Такие ресурсы тщательно копируют оригинальные сайты, а мошенники активно вкладываются в платную рекламу на популярных площадках.

Ещё одной распространённой схемой являются ложные розыгрыши с обещанием крупных призов, где для получения выигрыша требуется оплатить некий «налог» или предоставить данные платёжной карты якобы для верификации. В результате люди теряют деньги или предоставляют преступникам доступ к своим банковским картам, которые затем могут быть использованы для незаконных операций.

Марина Пробетс прогнозирует, что уже в 2025 году киберпреступники могут начать использовать более продвинутые фишинговые атаки с элементами искусственного интеллекта. Это позволит значительно повысить персонализацию вредоносных сообщений и реалистичность поддельных сайтов. Также эксперт считает, что возрастёт количество атак с использованием дипфейков, которые могут распространяться через социальные сети и мессенджеры в виде вредоносных ссылок или убедительных просьб о помощи.

Директор по развитию центра мониторинга внешних цифровых угроз Solar AURA (ГК «Солар») Александр Вураско рекомендует не передавать личную информацию, такую как логины и пароли от аккаунтов в соцсетях и мессенджерах, а также коды двухфакторной аутентификации, подозрительным ресурсам или незнакомым людям. Дополнительно для защиты от фишинга и вредоносного программного обеспечения он советует использовать надёжные антивирусные решения.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru