Преступники управляют ботнетом через Twitter

Преступники управляют ботнетом через Twitter

Специалист по кибербезопасности Жозе Назарио (Jose Nazario) из Arbor Networks Security обнаружил учётную запись микроблогового сервиса Twitter, использовавшуюся злоумышленниками для управления ботнетом.

Зомби-компьютеры, входящие в данную сеть, пишет webplanet.ru, следили за RSS-фидом данного аккаунта, в котором периодически появлялись записи, непонятные простым смертным. Типичный пример такой записи: "aHR0cDovL2JpdC5seS9SNlNUViAgaHR0cDovL2JpdC5seS8yS29Ibw==".

Продвинутым же пользователям строки подобного вида говорят о том, что они, скорее всего, закодированы при помощи кода base64, традиционно использующегося для кодировки электронной почты. Декодирование выявило, что эти записи представляют собой URL-ссылки, по которым боты получали новые инструкции.

В настоящее время специалисты Twitter, которых Назарио поставил в известность, уже заблокировали управляющий аккаунт и изучают его. Назарио говорит, что на популярном сервисе существуют и другие учётные записи такого рода.

Похоже, что эксперты по безопасности впервые обнаружили твит-ботнет. Впрочем, вирусописатели народ изворотливый, и нередко пускаются на всякие хитрости. Похожий метод управления ботнетами уже использовался, например, при помощи IRC-каналов (так работала зомби-сеть Shadow, которую год назад завалили голландские полицейские при содействии сотрудников "Лаборатории Касперского").

Теперь, как видим, киберзлоумышленники взяли на вооружение Twitter. Заметим, что этот сервис всё чаще становится объектом повышенного внимания хакеров благодаря своей популярности, а также невысокому уровню защиты.

В последние дни Twitter несколько раз подвергался DDoS-атакам, из-за чего на Западе поднялась шумиха: многие считают, что атаки были делом рук кровавой гэбни, которой не даёт покоя грузинский патриот cuxumy. Между тем, в той же Arbor Networks выяснили, что DDoS-атака на Twitter была довольно-таки слабенькой — просто этот сервис оказался не в состоянии ей сопротивляться.

 

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Выдачей ИИ-поиска можно манипулировать с помощью скрытого контента

Тестирование поискового ChatGPT показало, что в нынешнем виде проект уязвим к злоупотреблениям. Умного помощника можно заставить выдавать недостоверные и даже вредоносные результаты с помощью скрытого текста на веб-страницах.

Доступ к поисковой системе на основе ИИ-технологий OpenAI открыла в рамках платной подписки два месяца назад. На прошлой неделе новый сервис подключили всем зарегистрированным пользователям ChatGPT, с предложением назначить его поисковиком по умолчанию.

К сожалению, расширение возможностей умного чат-бота не избавило его от проблем, характерных для всех ИИ-инструментов. Его по-прежнему можно сбить с толку объемными текстами и заставить следовать сторонним инструкциям, применив инъекцию стимула (prompt injection).

Так, злоумышленник может создать поддельную страницу продукта с многочисленными положительными отзывами в виде скрытого текста, и ChatGPT ответит утвердительно на вопрос о целесообразности покупки.

Если включить в скрытый текст указание всегда расхваливать товар, ИИ будет упорно его выполнять даже при обилии отрицательных отзывов (а в случае с потенциально опасным кодом — предупреждений об угрозе).

«Большие языковые модели очень доверчивы, почти как дети, — пояснил для The Guardian эксперт Карстен Ноль (Karsten Nohl) из Security Research Labs. — С обширной памятью и минимальной способностью давать субъективную оценку. Нельзя принимать на веру рассказ ребенка о том, что он где-то услышал».

Интернет-поиск по запросу — новая сфера деятельности для ИИ-ассистента, которого к тому же легко обмануть. У него пока нет опыта поисковика Google, давно научившегося игнорить сайты со скрытым контентом либо задвигать их на последние позиции выдачи.

 

О возможных ошибках ChatGPT и необходимости проверки важной информации пользователей предупреждают в заявлении OpenAI об отсутствии гарантий — оно приведено в подвале каждой страницы веб-сервиса.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru