Amazon предложила решение проблемы использования системы Rekognition

Олег Иванов 30 Июля 2018 - 13:09

...

Amazon предложила решение проблемы использования системы Rekognition

Один из ведущих специалистов Amazon Мэтт Вуд, занимающийся искусственным интеллектом, уверен, что в процессе разработки системы распознавания лиц, которую будет использовать полиция, необходимо участие правительства в качестве контролирующего органа.

Вуд считает, что правительство должно регулировать то, как полиция и службы безопасности используют систему распознавания лиц.

С подобным заявлением разработчик выступил после критики в адрес системы Rekognition, которой ее подверг Американский союз защиты гражданских свобод.

Таким образом, в настоящий момент есть один основной вопрос — насколько можно доверять системам вроде Rekognition, насколько же они точны. Особенно этим вопросом задается чернокожее население Соединенных Штатов, так как в их случае система ошибается чаще.

Естественно, это стало проблемой в США, где расовые предрассудки продолжают существовать и по сей день.

Со своей стороны, Вуд предложил использовать настройки системы по умолчанию (а не рекомендованные). Это поможет снизить риск ложного опознания.

«Существует разница между использованием машинного обучения для идентификации, например, еды, и использованием машинного обучения для сравнения лица человека с базой преступников», — объяснил Вуд.

«В последнем случае речь идет о действительно высокой степени риска, а также о последствиях, которые может повлечь за собой ошибка. Следовательно, требуется куда более серьезный уровень доверия к системе».

К слову, не только Amazon высказалась за участие правительства в создании правил использования системы распознавания лиц правоохранительными органами. Президент Microsoft Брэд Смит в начале этого месяца призывал к тому же.

Напомним, что Американский союз защиты гражданских свобод (ACLU) провел тестирование системы распознавания лиц Rekognition от Amazon. Результаты показали, что система ошибочно определила 28 членов Конгресса как уголовников.

По словам проводивших эксперимент специалистов, они загрузили 25 000 фотографий под арестом (магшот) из публичного источника, а затем сопоставили их с официальными фотографиями всех 535 членов Конгресса.

Следующая главная новость »

Подписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

Татьяна Никитина 15 Ноября 2024 - 20:19

macOS Домашние пользователи

ChatGPT научили работать с macOS-приложениями Xcode, Terminal, TextEdit

ИИ-бот OpenAI теперь умеет читать проекты, над которыми работают программисты в macOS-приложениях. Новая возможность снимает необходимость копипастить код в запросы к ChatGPT на оказание помощи в решении текущих проблем.

Механизм Work with Apps («Работа с приложениями») пока поддерживает VS Code, Xcode, TextEdit, Terminal и iTerm2. Бета-версия доступна пользователям ChatGPT Plus и Teams, тестирование в Enterprise и Edu запустят в следующем месяце; состоится ли порт на Windows, пока неизвестно.

Для работы с большинством перечисленных приложений ChatGPT требуется доступ к API специальных возможностей macOS (Accessibility); это разрешение всегда можно откатить в настройках чат-бота. Работа с VS Code потребует установки специального расширения.

Когда функция активна, ChatGPT автоматически приобщает контент из приложения к входящему сообщению. Можно поставить фокус на определенном фрагменте кода, и умный помощник подскажет, как его скорректировать.

Так, в ходе тестов он помог исправить инструмент моделирования, создаваемый в Xcode: тот упорно исключал Землю из Солнечной системы. Написанная ИИ строка кода при этом соответствовала формату проекта.

К сожалению, вносить свои исправления в текущие разработки, как это делают Cursor или GitHub Copilot, чат-бот OpenAI пока не научился.

«Это [Work with Apps] не агент, а способ взаимодействия с инструментами программирования, список которых будет расширяться, — пояснил для TechCrunch руководитель по десктопным продуктам компании Александер Эмбирикос (Alexander Embiricos). — Думаю, он может стать ключевым элементом агентских систем. Суть в том, что ChatGPT понимает весь ваш контент и может помочь в работе с ним».

Нельзя не отметить, что бурный рост популярности ИИ, в том числе в России, несет в себе определенные риски. Большие языковые модели (БЯМ, LLM) могут взломать и заставить выдавать неправильные ответы; они не застрахованы от ошибок, к тому же склонны к галлюцинациям.

Расширение использования ИИ-помощников также грозит появлением новой зависимости. Привычка полагаться на подобные подпорки вполне может привести к снижению уровня знаний и навыков не только у профессионалов, но и у тех, кто идет им на смену.

Amazon предложила решение проблемы использования системы Rekognition

Читайте также