ИТ-гиганты нуждаются в закрытом ChatGPT

ИТ-гиганты нуждаются в закрытом ChatGPT

ИТ-гиганты нуждаются в закрытом ChatGPT

Apple запретила сотрудникам использовать ChatGPT. Причина — возможные утечки важных данных за периметр. Apple развивает теперь свой искусственный интеллект для внутреннего пользования.

Разговорная модель ChatGPT от OpenAI способна выполнять многие задачи, от ответов на вопросы до помощи в программировании. Модель работает только на серверах OpenAI или Microsoft и доступна через интернет.

Именно этот нюанс и не устраивает таких гигантов, как Apple, пишет Ars Technica.

Решение Apple ограничить использование внешних инструментов ИИ основано на опасениях, что конфиденциальные данные могут быть подвергнуты риску из-за характера этих моделей. Так, ChatGPT отправляет данные пользователей разработчикам для их обработки в облаке и помощи в улучшении будущих моделей ИИ.

OpenAI уже сталкивалась с проблемами “утечек” — ошибка позволила получить доступ к информации из чат-истории других пользователей. Так было с сотрудниками Samsung — они разболтали чат-боту ChatGPT исходный код.

В ответ на критику OpenAI внедрил опцию, которая позволяет отключать сохранение истории чатов. Это же предотвращает использование данных для обучения будущих моделей ИИ.

Apple хорошо известна своими строгими требованиями к безопасности, а ее решение запретить использование внешних инструментов ИИ отражает растущий тренд в целом.

Крупным бизнесам безопаснее развивать собственные модели для внутреннего пользования. Об этом уже говорят в том же Samsung и JPMorgan Chase. Amazon также поощряет своих инженеров использовать собственные инструменты ИИ (например, CodeWhisperer) для помощи в написании кода, а не “ходить на сторону”.

Microsoft, стоявшая у истоков OpenAI, недавно сама объявила о планах запуска версии ChatGPT, ориентированной на конфиденциальность. Аудитория таких “закрытых чатов” — банки, медцентры и другие крупные компании, у которых существуют повышенные опасения относительно утечек данных и соблюдения требований регуляторов.

Такая более дорогая бизнес-версия ChatGPT будет работать на выделенных серверах, отдельных от тех, которые служат другим компаниям или пользователями. Это позволит предотвратить случайные утечки данных и использовать их для обучения языковой модели искусственного интеллекта.

Добавим, что хотя Apple и ограничила использование ChatGPT для своих сотрудников, запрет не распространяется на приверженцев продуктов корпорации. Совсем недавно OpenAI выпустила официального клиента ChatGPT для пользователей iPhone в США.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В 25% российских госорганов используются ненадежные каналы связи

По данным «СерчИнформ», для рабочих коммуникаций госслужащие в основном используют корпоративную почту и системы электронного документооборота, однако в четверти случаев допускается применение личных имейл и мессенджеров.

Таковы результаты нового опроса, проведенного специалистами. В нем приняли участие 1040 представителей органов власти и госучреждений: руководители, специалисты по ИТ и ИБ (суммарно 40% респондентов), а также рядовые сотрудники.

 

«Говорить о полном переходе госслужащих на корпоративные каналы для рабочей коммуникации пока рано, — отметил Алексей Дрозд, начальник отдела безопасности «СерчИнформ». — При этом именно по личным почте и мессенджерам чаще всего утекают конфиденциальные данные. Это подтверждает и судебная практика: в большинстве уголовных дел, связанных с разглашением конфиденциальных данных, фигурирует использование личных аккаунтов в мессенджерах и соцсетях».

Примечательно, что локальные акты о защите данных существуют почти во всех организациях (97%), однако в 11% случаях эти требования не соблюдаются.

Основной угрозой безопасности данных в каналах связи руководители госструктур, айтишники и безопасники считают ошибки и халатность сотрудников, а большинство подчиненных (55%) — внешние атаки и взломы.

 

«Существенная часть внутренних ИБ-инцидентов возникает не по причине умышленного хищения данных, а в силу ошибок, недостаточной цифровой грамотности, низкой ИБ-дисциплины сотрудников или же манипуляции со стороны злоумышленников, выдающих себя за коллег или руководителей», — считает Дрозд.

Снизить риски ИБ-инцидентов в госсекторе, по мнению экспертов, поможет расширение использования комплексных решений, предусматривающих обработку и хранение данных в защищенном облаке, — таких как «Автоматизированное рабочее место госслужащего». Однако внедрение даст нужный эффект лишь в комбинации с СЗИ и в том случае, когда веб-сервис используют все сотрудники.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru