ChatGPT может впасть в ступор от просьбы назвать публичную персону

ChatGPT может впасть в ступор от просьбы назвать публичную персону

ChatGPT может впасть в ступор от просьбы назвать публичную персону

Пользователи платформы ChatGPT заметили странную особенность: ИИ-собеседник иногда отвечает отказом на просьбу подсказать правописание имен и рассказать об их носителях. Как выяснилось, эти люди когда-то пеняли OpenAI на неверные, порочащие их данные.

Так, умный чат-бот упорно не желал давать искомый ответ на ввод «David Mayer». Узнав об этом, завсегдатаи Reddit стали придумывать всякие уловки, чтобы добиться иной реакции, однако все попытки оказались безуспешными.

 

Ситуация стала проясняться, когда репортер TechCrunch отыскал в интернете информацию о загадочном Дэвиде Мейере.

Профессор с таким именем долгое время преподавал театроведение в Великобритании и США. В интернет-источниках его постоянно путали с террористом, избравшим ровно такой псевдоним, и мэтр потратил много усилий, чтобы избавиться от ассоциации, из-за которой он стал невыездным.

Тем временем пытливые пользователи обнаружили и другие похожие табу для ChatGPT. ИИ-сервис отказывался воспроизвести имена Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber, Guido Scorza.

Как оказалось, это тоже более-менее известные личности. Брайан Худ, например, работает в администрации графства Хепберн (штат Виктория, Австралия) и в прошлом году пригрозил OpenAI судом из-за ложного утверждения, что он якобы сидел за взяточничество.

Дэвид Фабер с 1993 года трудится на телеканале CNBC. Правоведа Джонатана Терли ChatGPT в прошлом году по ошибке (вместо тезки) внес в список юристов, уличенных в сексуальных домогательствах.

Юрист Джонатан Зиттрейн некогда активно пропагандировал право на забвение (в связи с наличием персональных данных в поисковой выдаче Google). Гвидо Скорца входит в состав итальянского Комитета по защите персональных данных, который в прошлом году пытался заблокировать в стране доступ к ChatGPT из-за проблем с конфиденциальностью.

Похоже, из-за официально высказанного недовольства и претензий на ИИ-сервисе скорректировали фильтры либо создали какие-то правила в отношении этих имен, и чат-бот OpenAI теперь реагирует на них так же, как на внесение имени в списки кандидатов от политических партий.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

Статический анализатор кода SASTAV включен в реестр российского ПО

Программное обеспечение «Система анализа исходного кода на уязвимости SASTAV» включено в Единый реестр российского ПО. Статический анализатор используется на ранних этапах процесса разработки и помогает обнаружить уязвимости в коде с минимальным количеством ложноположительных и ложноотрицательных срабатываний.

Решение одобрено Минцифры и может использоваться в госкорпорациях и структурах. SASTAV выполняет автоматизированный поиск уязвимостей, строит визуализацию векторов атак, определяет наиболее эффективное место для внесения исправлений и дает рекомендации по устранению ошибок в коде.

Использование AI-ассистента в работе анализатора обеспечивает минимизацию трудозатрат на триаж результатов сканирования и сокращает время, необходимое на исправление кода.

Ключевыми особенностями SASTAV являются: построение графов, указание оптимальной точки исправления, высокая скорость работы, бесшовное встраивание в цикл разработки, точные результаты сканирования, интуитивно понятный интерфейс, поддержка наиболее популярных языков.

Как отмечает совладелец группы компаний ITD Group Ксения Калемберг:

«Важным компонентом, повышающим эффективность работы статического анализатора SASTAV и снижающим трудоемкость работ по исправлению кода, является использование разработанной нашими специалистами методологии каскадной AI-валидации дефектов кода. На данный момент это единственный SAST с подобным функционалом, доступный неограниченному кругу заказчиков в России. Включение решения в «Единый реестр российских программ для электронных вычислительных машин и баз данных» позволит нам расширить круг потенциальных пользователей и получить преимущество при участии в госзакупках».

Запись о включении «Системы анализа исходного кода на уязвимости SASTAV» в реестр российского ПО внесена на основании решения экспертного совета Минцифры России от 12 августа 2024 года (№538пр). Продукт зарегистрирован в реестре 29 августа 2024 года под номером 23718.

Разработчик ПО «Система анализа исходного кода на уязвимости SASTAV» — ООО «ПАЙНАП» (бренд ShiftLeft Security). Образована в 2015 г. Входит в российскую группу компаний ITD Group.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru