Эксперты призывают к осторожности при использовании DeepSeek

Эксперты призывают к осторожности при использовании DeepSeek

Эксперты призывают к осторожности при использовании DeepSeek

Эксперты в области искусственного интеллекта (ИИ) призывают к осторожности при использовании сервиса DeepSeek из-за возможных рисков, связанных со сбором данных для обучения нейросетей и их потенциальной передачей третьим лицам.

Китайский стартап DeepSeek представил одноимённый чат-бот, разработка которого обошлась как минимум в несколько раз дешевле американских аналогов и требует меньше вычислительных ресурсов.

Запуск сервиса вызвал широкий резонанс: DeepSeek стремительно занял лидирующие позиции по числу загрузок в магазинах приложений, а капитализация технологических компаний в США сократилась более чем на 1 трлн долларов.

Президент США Дональд Трамп назвал появление DeepSeek тревожным сигналом для американской индустрии ИИ и призвал активизировать национальные разработки. Как заявила пресс-секретарь Белого дома Каролин Ливитт, влияние DeepSeek станет одной из ключевых тем первого заседания Совета национальной безопасности.

В то же время генеративные ИИ-модели нуждаются в больших объёмах данных для обучения, и многие компании собирают информацию о пользователях без их явного согласия. Ранее в подобных практиках уже обвиняли Microsoft.

Согласно политике конфиденциальности DeepSeek, сервис хранит на своих серверах IP-адреса, User-Agent, данные об устройствах, куки, отчёты о сбоях, журналы производительности, шаблоны нажатий клавиш, язык системы и другую техническую информацию. Причём даже после удаления учётной записи часть данных может оставаться в системе.

Из-за потенциальных угроз безопасности и этических вопросов, связанных с происхождением и использованием модели, военно-морской флот США запретил использование DeepSeek.

Член консультативного совета по искусственному интеллекту при ООН Венди Холл в комментарии для Guardian отметила, что китайские технологические компании обязаны соблюдать законодательство КНР. В частности, Закон о национальной разведке Китая предписывает гражданам и компаниям содействовать спецслужбам страны.

Она также напомнила, что генеративные ИИ-модели подвержены так называемым «галлюцинациям», а значит, результаты работы DeepSeek могут содержать дезинформацию.

Профессор Оксфордского университета Майкл Вулдридж в интервью Guardian выразил основное опасение по поводу возможной утечки конфиденциальных данных. Он предостерёг пользователей от передачи личной или корпоративной информации любым чат-ботам на основе ИИ, включая ChatGPT.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Т-Банк импортозаместил корпоративный центр сертификации PKI-инфраструктуры

Т-Банк завершил миграцию с Microsoft CA на российское решение SafeTech CA, став первой финансовой организацией в стране, отказавшейся от иностранного центра сертификации инфраструктуры открытых ключей в пользу отечественного аналога.

По словам участников проекта, процесс перехода с Microsoft CA на SafeTech CA прошел без сбоев. Это стало возможным благодаря функции импорта сертификатов и их шаблонов из Microsoft CA.

Пилотный этап длился 4,5 месяца. В ходе тестирования проверялись различные сценарии использования CA во внутренней инфраструктуре, возможности REST API для интеграции с бизнес-процессами, а также способность команды разработчиков вендора адаптировать решение под потребности банка.

В рамках проекта было выпущено несколько тысяч технологических сертификатов для различных устройств и операционных систем, включая Windows и Linux.

«Замена зарубежных компонентов инфраструктуры на отечественные средства защиты информации — один из приоритетов Т-Банка. Мы рассмотрели несколько вариантов и остановили выбор на решении SafeTech. Гибкость в интеграции и настройке позволила сохранить текущую инфраструктуру и повысить ее эффективность за счет более современных технологий», — сообщил вице-президент, технический директор Т-Банка Олег Щербаков.

Генеральный директор SafeTech Lab Александр Санин отметил, что интерес к подобным решениям растет не только среди финансовых организаций, но и в топливно-энергетическом комплексе, государственных структурах и телекоммуникационных компаниях.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru