В России начнут маркировать контент, сгенерированный нейросетью

В России начнут маркировать контент, сгенерированный нейросетью

Материалы, созданные нейросетью, российские сервисы будут автоматически маркировать четкими и заметными графическими знаками. По словам Антона Немкина, члена комитета Госдумы по информационной политике, это поможет усмирить бесконтрольное использование ИИ.

Начальник управления киберразведки и цифровой криминалистики Angara Security Никита Леокумович сообщил изданию «КоммерсантЪ», что стремительно развивающийся искусственный интеллект несёт в себе опасность.

Например, он может нарушать нормы морали и права человека, создавая вымышленные факты и генерируя дипфейки. Именно поэтому очень важно маркировать материалы, сгенерированные с помощью нейросети, включая текст, изображения и видео.

Огромное количество исходных кодов нейросети доступно любому пользователю. Возможно, из-за этого число мошенников, использующих ИИ, заметно выросло.

Сейчас есть возможность проверить, сгенерировано ли изображение с помощью искусственного интеллекта или создано человеком. Пользователю достаточно загрузить картинку на сервис (есть как платные, так и бесплатные), где алгоритм, основанный на ИИ, даст ответ.

По подсчётам компании «Диалог Регионы», около 12 миллионов дипфейков было обнаружено на просторах рунета в 2023 году. Исследователи предполагают, что к 2024 году это число вырастет до 15 млн.

Ярослав Шицле, руководитель направления «Разрешение IT & IP споров» юридической фирмы «Рустам Курмаев и партнеры» предполагает, что если сервисы не будут придерживаться требований и автоматически маркировать создаваемый ИИ контент, их будут блокировать или даже привлекать к ответственности.

О том, что вид графических символов на материалах может повлиять на рекламный рынок, рассказал управляющий партнер агентства PRT Edelman Глеб Сахрай. Пока неизвестно, насколько большой будет надпись, и как будут относиться люди к контенту, зная, что он сгенерирован нейросетью. Возможно, рекламные агентства снова прибегнут к помощи копирайтеров и дизайнеров.

Примечательно, что подобный закон в Евросоюзе уже действует с марта этого года. По сообщениям компании OpenAI, изображения, созданные ChatGPT, уже маркируются. Видео, сгенерированные встроенными алгоритмами в TikTok, помечаются платформой.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

Шансы у новичков рынка NGFW есть

По мнению участников дискуссии «Сетевая безопасность 2024», которая прошла на конференции IT Elements, новые игроки на рынке NGFW имеют существенное преимущество перед старыми за счет отсутствия привязки к устаревшей кодовой базе.

Как отметил в ходе дискуссии директор по кибербезопасности Сбертеха Всеслав Соленик, одной из главных проблем российских решений сетевой безопасности является то, что они «не тянут нагрузку».

Он связал это с устаревшей кодовой базой, поскольку большая часть отечественных вендоров, которые присутствовали на рынке до 2022 года, ориентировались на сегмент малого и среднего бизнеса, но после ухода зарубежных вендоров им пришлось срочно адаптировать продукты под нужды крупных корпоративных заказчиков.

В итоге, как сделал вывод Всеслав Соленик, новые игроки, которые создавали решения «с нуля», получают огромное преимущество перед теми, кто пытается масштабировать то, что у них было раньше. Владелец продукта AxelNAC Николай Санагурский обратил внимание также на то, что по этой причине «старые» вендоры, пытаясь масштабировать свои продукты под свалившихся на них крупных заказчиков, перестали работать над развитием функциональности своих продуктов.

При этом Всеслав Соленик назвал главной проблемной точкой российского рынка не NGFW, а VPN. Существующие на рынке продукты он упрекнул в том, что они, во-первых, «явно сделаны на сдачу» и многие из них до сих пор не имеют клиентов под российские операционные системы. Также он критиковал многие из российских IDS/IPS систем. Но в целом, по мнению Всеслава Соленика, проблемы есть во всех классах систем сетевой безопасности.

Руководитель Отдела продвижения продуктов «Кода безопасности» Павел Коростелев повторил фразу, которую произнес на эфире AM Live о том, что проблемой российских NGFW является не только низкая производительность, а еще и недостаточная отказоустойчивость. По его оценке, на решение имеющихся проблем вендорам понадобится 3-4 года. По мнению Павла Коростелева, пока рынок заполнен отечественными решениями не более чем на треть.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru