Спрос на услуги по безопасности генеративного ИИ активно растет

Спрос на услуги по безопасности генеративного ИИ активно растет

Спрос на услуги по безопасности генеративного ИИ активно растет

По данным Swordfish Security, за услугами по безопасности больших языковых моделей (LLM Security) в 2024 году обращались 35% заказчиков. Спрос на такие услуги растет прямо пропорционально внедрению подобных инструментов в бизнес-практику.

В 2025 году такая практика будет только расширяться, поскольку генеративный интеллект, прежде всего, большие языковые модели, будут внедряться все более активно. В будущем году уровень проникновения генеративного ИИ составит не менее 40%, а к 2030 году может достигнуть и 90%.

Как отметил директор по развитию бизнеса ГК Swordfish Security Андрей Иванов, рост интереса к безопасности больших языковых моделей стал одной из главных тенденций 2024 года. Недооценка таких рисков чревата серьезными проблемами. Среди таких рисков Андрей Иванов инъекции вредоносного кода в промпт, уязвимости в цепочках поставок, выдача ошибочной информации за истину на этапе обучения модели и даже кража модели злоумышленниками.

«В бизнесе используют большие модели для распознавания текста, анализа данных, предиктивной аналитики, поиска, оценки ресурса механических узлов промышленных агрегатов и многого другого. Многие отрасли, та же ИТ, активно используют ИИ-помощников. Например, в DevSecOps мы обучили и применяем модель, которая может анализировать и приоритизировать большой объем уязвимостей кода, таким образом освобождая время для квалифицированных инженеров для других, более сложных и творческих задач, — комментирует Андрей Иванов. — Критичным может оказаться, например, некорректная работа виртуальных ассистентов, которые могут влиять на клиентские решения, аналитику, дающую ошибочную информацию в цепочке поставок. Существуют атаки, отравляющие данные или позволяющие получить конфиденциальную информацию, и так далее. К этому стоит относиться как к любой информационной системе, влияющей на бизнес-процесс и проводящей, в случае компрометации, к потерям репутации и убыткам».

Внедрение ИИ требует корректировки корпоративных политик ИБ. Важно делать акцент на безопасности, а разрабатывать модели необходимо в соответствие с практиками разработки безопасного ПО, анализируя исходный код и зависимости, ответственно относиться к контролю доступа к источникам данных и стараться использовать доверенные алгоритмы обучения, уверен Андрей Иванов. Также важно учитывать то, что многие большие языковые модели используют облачную архитектуру, а это создает угрозу утечки конфиденциальных данных.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Объемы жульничества зашкаливают, считает Путин

Президент России Владимир Путин в ходе «прямой линии» 19 декабря признал значительные масштабы телефонного мошенничества. В качестве мер противодействие он предложил ввести «период охлаждения» при кредитовании и поддержал усиление ответственности для дропов.

Тему мошенничества подняла пенсионерка из Казани, которая сама стала жертвой подобной активности в сентябре.

«Преступление было совершено в сентябре текущего года. Пенсионерке из Казани позвонил неизвестный и предложил записаться на диспансеризацию. Для этого он попросил продиктовать код, который поступил на ее телефон в смс-сообщении.  Женщина сообщила злоумышленнику требуемые цифры и тем самым предоставила ему доступ к своему аккаунту на Едином портале государственных и муниципальных услуг, — такие подробности по этому делу сообщила официальный представитель МВД Ирина Волк. — В дальнейшем пенсионерке звонили аферисты и убеждали, что на ее имя пытаются оформить займы. Чтобы избежать потери денег, предлагали самой взять кредиты и перевести денежные средства на так называемые безопасные счета. По заявлению женщины возбуждено уголовное дело по признакам преступления, предусмотренного частью 2 статьи 272 и частью 3 статьи 159 УК РФ».

Президент признал масштаб проблемы. Он привел прогнозные данные Сбербанка, которые озвучил заместитель председателя правления Станислав Кузнецов в ходе SOC Forum 2024, согласно которым ущерб от деятельности телефонных мошенников составит в 2024 году 250 млрд рублей.

«Все, что происходит сейчас, вызывает тревогу, объемы жульничества зашкаливают», — так прокомментировал ситуацию с телефонным мошенничеством Владимир Путин.

Он назвал деятельность мошеннических колл-центров, как правило, действующих с территории Украины, частью государственной политики с целью расшатывания ситуации в России.

Владимир Путин сравнил такую практику с действиями Германии в период Второй мировой войны по промышленному выпуску фальшивых денег стран союзников.

В качестве меры противодействия президент предложил ввести период охлаждения для выдачи кредитов. Владимир Путин предложил ограничить сумму, которую могут выдавать кредитные организации без проверок 50 тыс. рублей, а заявки на кредиты более 200 тыс. рублей должны обрабатываться несколько дней.

По словам президента, данные нормы уже находятся на стадии обсуждения в правительстве и Банке России. Пресс-служба Банка России подтвердила «Ведомостям», что данные предложения регулятор  передал в Минфин, который готовит соответствующий законопроект.

Ряд банков, не дожидаясь введения обязательных мер, по собственной инициативе принимают шаги, направленные на снижение риска мошенничества для уязвимых категорий. Так, Сбер и Т-Банк запустили сервис «второй руки» — возможности подтверждения или отклонения операций доверенным лицом клиента.

Владимир Путин также поддержал инициативу МВД ввести уголовную ответственность для дропов — тех, кто передает злоумышленникам доступ к своим картам и счетам для вывода и отмывания украденных у злоумышленников денежных средств. Активность мошенников по вербовке дропов выросла осенью текущего года из-за блокировки банками подозрительных счетов.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru