Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах
Акция от Infosecurity! Обучайте сотрудников с выгодойПодключайте сервис TRAINING CENTER. Организацию и контроль обучения берем на себя:
• Разработаем индивидуальные шаблоны учебного фишинга.
• Сформируем учебные группы и проведем учебные фишинговые атаки.
• Проконтролируем процесс и определим результаты.

При заключении договора сроком на 1 год и более – сопровождение бесплатно.
Набор и стоимость услуг зависят от количества пользователей, и размер скидки уточняйте у менеджера.

→ Оставить заявку
Реклама. Рекламодатель ООО «ИС», ИНН 7705540400, 18+

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Проведенное в «Лаборатории Касперского» исследование показало, что поддельные сайты, созданные с помощью ИИ, могут содержать следы использования таких онлайн-сервисов, которые мошенники поленились или забыли вычистить.

Рост доступности больших языковых моделей (БЯМ, LLM) способствует, в числе прочего, увеличению количества злоупотреблений.

Использование инструментов на их основе позволяет поставить генерацию контента, в том числе вредоносного, на поток, однако ИИ-помощников нельзя оставлять без присмотра, о чем не знают или забывают обманщики.

В ходе анализа на фишинговых и скамерских сайтах эксперты обнаружили такие артефакты, как ответы чат-ботов, в которых сработала встроенная защита; лексикон, характерный для известных LLM; служебные пометки со ссылкой на ИИ-сервис.

Так, из-за больших масштабов автоматизации или кривых рук на созданных ИИ страницах зачастую можно встретить извинения чат-бота, которому этикет не позволяет выполнить запрос. Взамен он предлагает «сделать что-то похожее», и это тоже попадает в паблик.

 

В данном примере присутствуют и другие свидетельства фейка — диакритический знак в слове «Login» и буква «ɱ» вместо «m» в заголовке (замена по методу тайпсквоттинга).

Использование LLM, по словам экспертов, могут также выдать характерные слова и фразы. Чат-боты OpenAI, например, часто употребляют delve («штудировать»), а конструкции вроде in the ever-evolving / ever-changing world / landscape («в изменчивом /развивающемся мире / ландшафте») использует множество нейросетей.

Предательский отказ ассистента подчиниться и другие маркеры изредка встречаются также в мегатегах поддельных сайтов. В примере ниже исследователи обнаружили еще один признак мошенничества — имя «bolygon» в URL имитации легитимного Polygon.

 

«Злоумышленники активно изучают возможности применения больших языковых моделей в разных сценариях автоматизации, но, как видно, иногда допускают ошибки, которые их выдают, — отметил руководитель группы исследований и ML-разработок в Kaspersky Владислав Тушканов. — Однако подход, основанный на определении поддельной страницы по наличию тех или иных “говорящих слов”, ненадёжен. Поэтому пользователям нужно обращать внимание на подозрительные признаки, например логические ошибки и опечатки на странице. Важно убедиться, что адрес сайта совпадает с официальным».

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

Security Vision представила обновленный продукт Security Vision ФинЦЕРТ

Security Vision ФинЦЕРТ автоматизирует и оптимизирует взаимодействие с регулятором ФинЦЕРТ. Продукт позволяет в режиме реального времени отправлять уведомления о событиях ИБ в ФинЦЕРТ.

Помимо этого, разработка помогает получать запросы от ФинЦЕРТ о контролируемых ресурсах организации или клиентах, замеченных во вредоносной активности, а также получать бюллетени об актуальных угрозах и уязвимостях.

Система разработана с учетом всех требований регулятора ФинЦЕРТ.

 

Работа с инцидентами и атаками

Продукт обеспечивает своевременное и максимально полное информирования регулятора о зафиксированных инцидентах и атаках в требуемой форме. Жизненный цикл полностью совпадает с требованиями регулятора. Интеграция позволяет вести переписку с регулятором напрямую из карточки инцидента без перехода в личный кабинет ФинЦЕРТ, а также отправлять и получать файлы всех форматов.

Для упрощения создания инцидентов предусмотрена возможность предзаполнения карточек по шаблонам. Вся история действий с инцидентом, а также общения с регулятором сохраняется в таймлайне.

Работа с запросами от ФинЦЕРТ

Предусмотрена проверка наличия запросов от регулятора с возможностью точечно предоставить необходимую информацию о результатах расследования инцидента и принятых мерах или решениях. Возможность ведения переписки с оператором без перехода в личный кабинет ФинЦЕРТ позволяет быстро задать уточняющие вопросы или отправить требуемые файлы. Хронология общения фиксируется в таймлайне для сохранения полной истории запросов.

Бюллетени ФинЦЕРТ

Продукт позволяет регулярно загружать информационные бюллетени об актуальных уязвимостях и угрозах, направляемых ФинЦЕРТ. Гибкая настройка расписания получения бюллетеней и удобные оповещения позволяют вовремя обрабатывать необходимое количество документов.

Отчеты и дашборды

В продукт включены как преднастроенные отчеты, позволяющие выгружать данные по отдельным инцидентам и атакам, так и сводные отчеты, отображающие динамику взаимодействия и консолидированную информацию по обработанным сведениям.

Дашборд отображает ключевую информацию по зарегистрированным в ФинЦЕРТ инцидентам за выбранный период и сводную информацию по статусам текущих инцидентов. Оператору предоставлена возможность отслеживать в режиме реального времени инциденты, в которых при отправке в ФинЦЕРТ возникла ошибка, чтобы своевременно отреагировать и внести необходимые исправления.

Интеграция с продуктами Security Vision

Продукт нативно интегрируется со всеми решениями линейки Secuirty Vision, что позволяет не только соответствовать требованиям регулятора, автоматизируя взаимодействие с ним, но и выстраивать полноценный комплекс защищенности, учитывая все процессы и процедуры SOC центра.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru