Сотрудники Google протестуют против контракта Пентагона

Сотрудники Google протестуют против контракта Пентагона

Сотрудники Google протестуют против контракта Пентагона

Прошло почти три месяца с тех пор, как общественность и сотрудники Google узнали о решении компании использовать искусственный интеллект в спорной военной пилотной программе Project Maven, направленной на ускорение анализа отснятого материала, используя автоматическую классификацию изображений объектов и людей. Сейчас около десяти сотрудников Google подают в отставку в знак протеста против продолжения участия компании в этом проекте.

Разочарования сотрудников варьируются от конкретных этических соображений по поводу использования искусственного интеллекта в беспилотных войнах до более широких забот о политических решениях Google и эрозии доверия пользователей, которая может быть результатом этих действий. Многие из них написали заявления о своем решении покинуть компанию, а их рассказы были собраны и распространены во внутреннем документе.

Сотрудники, которые уходят в отставку в знак протеста, говорят, что руководители стали менее прозрачными в спорных бизнес-решениях и менее заинтересованы в том, чтобы слушать возражения сотрудников. В случае с Maven Google помогает Министерству обороны внедрять машинное обучение для классификации изображений, собранных беспилотными летательными аппаратами. Но некоторые сотрудники считают, что люди, а не алгоритмы, несут ответственность за эту чувствительную и потенциально опасную работу, и что Google вообще не должен участвовать в работе с министерством обороны.

Исторически Google продвигала открытую культуру, которая побуждает сотрудников бросать вызов и обсуждать решения о продуктах. Но некоторые сотрудники считают, что их руководство больше не так внимательно относится к их проблемам, оставляя их перед лицом последствий.

В дополнение к отставкам почти 4 000 сотрудников Google заявили о своей оппозиции проекту Maven во внутреннем ходатайстве, которое просит Google немедленно отменить контракт и разработать политику в отношении возможного сотрудничества с военными.

Тем не менее, растущее давление со стороны сотрудников, похоже, мало повлияло на решение Google - компания защитила свою работу над Maven и считается одним из ведущих претендентов на другой крупный контракт на облачные вычисления в Пентагоне, совместную инфраструктуру защиты предприятий, лучше известный как JEDI.

Google подчеркнул, что его ИИ не используется, чтобы убивать, но использование искусственного интеллекта в беспилотной программе Пентагона по-прежнему вызывает сложные этические и моральные проблемы для программистов и ученых, изучающих область машинного обучения.

Сегодня более 90 ученых в области искусственного интеллекта, этики и информатики опубликовали письмо, в котором содержится призыв к Google прекратить работу над проектом Maven и поддержать международный договор, запрещающий автономные системы оружия. Питер Асаро и Люси Сучман, два из авторов письма, засвидетельствовали перед Организацией Объединенных Наций об автономном оружии; третий автор, Лилли Ирини, профессор и бывший сотрудник Google.

 

70% мобильных игр небезопасны: эксперты нашли сотни уязвимостей

Казалось бы, что может быть безобиднее мобильных игр? Пару уровней в дороге, быстрый матч перед сном — и никаких рисков. Но на практике всё не так радужно. По данным AppSec Solutions, семь из десяти игровых приложений для смартфонов содержат уязвимости, а каждая седьмая из них может быть потенциально опасной.

Специалисты компании проанализировали около 50 популярных мобильных игр с помощью инструмента AppSec.Sting и обнаружили порядка 700 уязвимостей. Из них 90 получили высокий или критический уровень опасности.

Самые тревожные находки — это банальные, но оттого не менее опасные ошибки. Так, в 12 приложениях пароли и токены хранились прямо в исходном коде, фактически в открытом виде. Для злоумышленников это настоящий подарок — такие данные легко извлекаются и могут использоваться для взлома.

Ещё 13 игр не имели проверки целостности, что позволяет без особых усилий модифицировать сборку и менять логику приложения.

«Это серьёзно упрощает вмешательство в работу игры — от читов до более опасных сценариев», — пояснил руководитель отдела анализа защищённости AppSec.Sting компании AppSec Solutions Никита Пинаев.

Эксперт выделил три ключевые проблемы, которые встречаются в мобильных играх особенно часто.

Во многих играх критически важные механики — расчёт наград, прогресса и внутриигровых ресурсов — реализованы на стороне клиента. Без полноценной серверной проверки это открывает дорогу к подмене данных, повторному воспроизведению запросов и манипуляциям с игровой экономикой. Итог — читы, перекос баланса, падение честности и доверия игроков.

Небезопасное хранение данных и слабая защита сетевого взаимодействия. Конфиденциальная информация нередко хранится локально без шифрования и контроля целостности. К этому добавляются проблемы с сетевой защитой — отсутствие проверок подлинности запросов и защиты от повторного воспроизведения. Всё это создаёт условия для утечек данных и автоматизации мошеннических сценариев.

Многие приложения поставляются без обфускации кода и базовых механизмов защиты. В результате бизнес-логика легко анализируется, конфиденциальные параметры извлекаются, а модифицированные клиенты распространяются быстрее, чем разработчики успевают реагировать.

На первый взгляд проблемы выглядят «внутриигровыми», но на деле они оборачиваются вполне реальными рисками — финансовыми потерями, ростом мошенничества и репутационными издержками. И страдают от этого не только студии, но и обычные пользователи.

Эксперты AppSec Solutions напоминают простые, но эффективные правила цифровой гигиены:

  1. Скачивайте игры только из официальных магазинов.
    Сторонние источники — главный канал распространения модифицированных и вредоносных версий.
  2. Осторожнее с модами и «взломами».
    Читы — это не только риск бана, но и реальная угроза утечки данных или заражения устройства.
  3. Следите за разрешениями.
    Давайте игре только то, что действительно нужно для работы, и периодически пересматривайте доступы.
  4. Обновляйте приложения и ОС.
    Апдейты часто закрывают уязвимости, о которых вы даже не подозреваете.
  5. Используйте уникальные пароли.
    Для игровых аккаунтов — свои учётные данные и, по возможности, дополнительные механизмы защиты.

Мобильные игры давно перестали быть просто развлечением — вокруг них крутятся деньги, данные и целые цифровые экосистемы. А значит, относиться к их безопасности стоит не менее серьёзно, чем к банковским приложениям.

RSS: Новости на портале Anti-Malware.ru