Эксперты призывают к осторожности при использовании DeepSeek

Эксперты призывают к осторожности при использовании DeepSeek

Эксперты призывают к осторожности при использовании DeepSeek

Эксперты в области искусственного интеллекта (ИИ) призывают к осторожности при использовании сервиса DeepSeek из-за возможных рисков, связанных со сбором данных для обучения нейросетей и их потенциальной передачей третьим лицам.

Китайский стартап DeepSeek представил одноимённый чат-бот, разработка которого обошлась как минимум в несколько раз дешевле американских аналогов и требует меньше вычислительных ресурсов.

Запуск сервиса вызвал широкий резонанс: DeepSeek стремительно занял лидирующие позиции по числу загрузок в магазинах приложений, а капитализация технологических компаний в США сократилась более чем на 1 трлн долларов.

Президент США Дональд Трамп назвал появление DeepSeek тревожным сигналом для американской индустрии ИИ и призвал активизировать национальные разработки. Как заявила пресс-секретарь Белого дома Каролин Ливитт, влияние DeepSeek станет одной из ключевых тем первого заседания Совета национальной безопасности.

В то же время генеративные ИИ-модели нуждаются в больших объёмах данных для обучения, и многие компании собирают информацию о пользователях без их явного согласия. Ранее в подобных практиках уже обвиняли Microsoft.

Согласно политике конфиденциальности DeepSeek, сервис хранит на своих серверах IP-адреса, User-Agent, данные об устройствах, куки, отчёты о сбоях, журналы производительности, шаблоны нажатий клавиш, язык системы и другую техническую информацию. Причём даже после удаления учётной записи часть данных может оставаться в системе.

Из-за потенциальных угроз безопасности и этических вопросов, связанных с происхождением и использованием модели, военно-морской флот США запретил использование DeepSeek.

Член консультативного совета по искусственному интеллекту при ООН Венди Холл в комментарии для Guardian отметила, что китайские технологические компании обязаны соблюдать законодательство КНР. В частности, Закон о национальной разведке Китая предписывает гражданам и компаниям содействовать спецслужбам страны.

Она также напомнила, что генеративные ИИ-модели подвержены так называемым «галлюцинациям», а значит, результаты работы DeepSeek могут содержать дезинформацию.

Профессор Оксфордского университета Майкл Вулдридж в интервью Guardian выразил основное опасение по поводу возможной утечки конфиденциальных данных. Он предостерёг пользователей от передачи личной или корпоративной информации любым чат-ботам на основе ИИ, включая ChatGPT.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Количество запросов на услуги DevSecOps выросло на 30% с начала года

В начале 2025 года наблюдается значительный рост интереса среднего и крупного бизнеса к методикам и сервисам безопасной разработки (DevSecOps). По сравнению с IV кварталом 2024 года в январе 2025 года спрос увеличился на 29,7%, а доля компаний, впервые обращающихся за такими услугами, выросла на 14,5%.

Согласно наблюдениям «Кросс технолоджис», рост интереса к DevSecOps обусловлен рядом факторов.

Во-первых, заказчики цифровых продуктов, включая банки и страховые компании, все чаще требуют от разработчиков соблюдения стандартов безопасности, что способствует росту спроса на соответствующие решения. В условиях высокой конкуренции компании стремятся повысить доверие пользователей, инвестируя в безопасную разработку.

Во-вторых, необходимость соблюдения требований регуляторов также влияет на развитие рынка. В частности, с 1 января 2023 года в соответствии с приказом ФСТЭК России № 239 при создании или модернизации значимых объектов критической информационной инфраструктуры (КИИ) требуется обеспечение безопасности прикладного ПО. При этом также сохраняется требование по импортозамещению, что требует модернизации программного обеспечения на таких объектах.

Дополнительным фактором является ужесточение ответственности за утечку персональных данных на фоне роста числа кибератак. Это заставляет организации пересматривать подходы к информационной безопасности и внедрять более надежные механизмы защиты.

Активное использование облачных технологий и привлечение удаленных специалистов, в том числе из сторонних организаций, также требуют дополнительных мер по защите данных. Кроме того, повышение осведомленности топ-менеджмента о рисках информационной безопасности приводит к увеличению инвестиций в безопасную разработку.

По данным Центра стратегических разработок (ЦСР), объем российского рынка DevSecOps в 2022 году составил около 8,25 млрд рублей, а в 2023 году увеличился до 9,84–12,32 млрд рублей. По прогнозам, к 2027 году он может достигнуть 17,75 млрд рублей, а в наиболее оптимистичном сценарии — 60 млрд рублей.

Дальнейшее развитие рынка безопасной разработки связано с общим ростом ИТ-отрасли, уходом иностранных поставщиков программного обеспечения и увеличением количества кибератак на коммерческие и государственные структуры.

Эксперты отмечают, что для повышения устойчивости ИТ-систем бизнесу необходимо переходить от традиционного DevOps к DevSecOps, внедряя стандарты безопасности на всех этапах разработки. Это позволяет минимизировать риски и избежать серьезных уязвимостей в будущем, хотя требует пересмотра подходов к разработке и оптимизации процессов.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru