В московских датчиках дорожного движения обнаружена уязвимость

В московских датчиках дорожного движения обнаружена уязвимость

«Лаборатория Касперского» выяснила, что злоумышленники могут легко получить доступ к датчикам дорожного движения в Москве и серьезно исказить собираемые ими данные. В результате может быть нанесен многомиллионный ущерб городу, например, если власти на основе модифицированной информации будут принимать ошибочные решения о развитии дорожной инфраструктуры.

Датчики определяют количество машин разных габаритов в каждой из полос движения, измеряют их среднюю скорость и отдают собранные данные в единый операционный центр. На основе этой информации формируется карта загрузки основных магистралей столицы, которая раз в неделю обновляется на сайте Центра организации дорожного движения (ЦОДД).

Если доступ к датчикам получат злоумышленники, они могут частично изменить статистику о дорожном движении, например, о категории транспортного средства или средней скорости движения на дороге, либо вывести из строя дорогостоящее оборудование. Задачу им упрощает тот факт, что непосредственно на датчиках есть логотип компании-производителя, а также добавленные установщиками бирки. Это дает возможность найти на сайтах вендора или интеграторов документацию и даже готовое ПО для работы с устройствами. Техническая документация нередко содержит набор команд, которые в случае отсутствия надежной аутентификации могут отправлять сторонние пользователи.

Как правило, чтобы установить соединение с датчиком, использующим протокол Bluetooth, злоумышленнику достаточно подойти к устройству с ноутбуком, на котором включен Bluetooth-передатчик, и авторизоваться. Эксперимент показал, что дополнительной авторизации помимо стандартной для этого протокола не предусмотрено. После получения доступа к устройству можно, используя готовое ПО вендора, модифицировать прошивку датчика и изменять данные о трафике.

«Данные с сенсоров должны быть точными, ведь на их основании могут приниматься решения по строительству новых дорог, реорганизации городского движения, созданию умной системы светофоров. Смена настроек серьезно влияет на достоверность информации о реальном положении дел в системе транспорта. Как показал эксперимент, в настоящий момент эти данные могут быть скомпрометированы. Важно защититься от подобных рисков, чтобы в будущем они не повлияли на работу городской инфраструктуры», — предупреждает Денис Легезо, антивирусный эксперт «Лаборатории Касперского».

Для предотвращения успешной кибератаки на транспортную IT-инфраструктуру «Лаборатория Касперского» советует компаниям-установщикам оборудования изменять установленные по умолчанию имена устройств и выбирать надежные пароли. Компаниям-производителям рекомендуется отказаться от практики нанесения логотипов и названий на устройства, чтобы усложнить поиск инструментов для их взлома, и помимо стандартной аутентификации, предусмотренной в популярных протоколах, использовать дополнительную проверку пользователей, а также сотрудничать с экспертами по безопасности в вопросах поиска и исправления уязвимостей. 

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Выдачей ИИ-поиска можно манипулировать с помощью скрытого контента

Тестирование поискового ChatGPT показало, что в нынешнем виде проект уязвим к злоупотреблениям. Умного помощника можно заставить выдавать недостоверные и даже вредоносные результаты с помощью скрытого текста на веб-страницах.

Доступ к поисковой системе на основе ИИ-технологий OpenAI открыла в рамках платной подписки два месяца назад. На прошлой неделе новый сервис подключили всем зарегистрированным пользователям ChatGPT, с предложением назначить его поисковиком по умолчанию.

К сожалению, расширение возможностей умного чат-бота не избавило его от проблем, характерных для всех ИИ-инструментов. Его по-прежнему можно сбить с толку объемными текстами и заставить следовать сторонним инструкциям, применив инъекцию стимула (prompt injection).

Так, злоумышленник может создать поддельную страницу продукта с многочисленными положительными отзывами в виде скрытого текста, и ChatGPT ответит утвердительно на вопрос о целесообразности покупки.

Если включить в скрытый текст указание всегда расхваливать товар, ИИ будет упорно его выполнять даже при обилии отрицательных отзывов (а в случае с потенциально опасным кодом — предупреждений об угрозе).

«Большие языковые модели очень доверчивы, почти как дети, — пояснил для The Guardian эксперт Карстен Ноль (Karsten Nohl) из Security Research Labs. — С обширной памятью и минимальной способностью давать субъективную оценку. Нельзя принимать на веру рассказ ребенка о том, что он где-то услышал».

Интернет-поиск по запросу — новая сфера деятельности для ИИ-ассистента, которого к тому же легко обмануть. У него пока нет опыта поисковика Google, давно научившегося игнорить сайты со скрытым контентом либо задвигать их на последние позиции выдачи.

 

О возможных ошибках ChatGPT и необходимости проверки важной информации пользователей предупреждают в заявлении OpenAI об отсутствии гарантий — оно приведено в подвале каждой страницы веб-сервиса.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru