ChatGPT ставит невидимые текстовые водяные знаки в странах ЕС

Данная мера направлена на обеспечение соответствия нормативным требованиям в области защиты авторских прав и предотвращения несанкционированного использования интеллектуальной собственности.

Проблема идентификации контента, созданного с использованием искусственного интеллекта (ИИ), является одной из наиболее актуальных и сложных задач в современном цифровом пространстве. Технологические гиганты активно разрабатывают и внедряют методы нанесения невидимых водяных знаков на изображения и видео, что позволяет с высокой степенью достоверности установить факт их создания или модификации с помощью ИИ-алгоритмов.

Однако, несмотря на значительные успехи в этой области, задача идентификации текста, сгенерированного ИИ, остается нерешенной даже для ведущих исследовательских лабораторий и компаний, занимающихся разработкой ИИ-технологий. На рынке представлено множество инструментов, предназначенных для выявления текстов, созданных ИИ, но их эффективность зачастую вызывает сомнения. По мере совершенствования моделей ИИ эти инструменты могут стать еще менее действенными.

В 2024 году компания OpenAI объявила о разработке метода нанесения водяных знаков на текст, однако широкой публике он пока не был представлен. В то время высказывались опасения относительно потенциального влияния этой технологии на пользователей ChatGPT, включая студентов, чьи работы могли бы быть ошибочно помечены как созданные ИИ.

На сегодняшний день OpenAI внедрила технологию нанесения водяных знаков на текст для пользователей ChatGPT. Это решение обусловлено требованиями Закона Европейского союза об искусственном интеллекте, обязывающего поставщиков генеративных ИИ-моделей обеспечивать возможность идентификации контента, созданного ИИ, в машиночитаемом формате.

С момента внедрения клиенты API OpenAI по всему миру получили возможность активировать функцию нанесения водяных знаков на текст для определенных моделей. В ближайшие недели OpenAI также начнет автоматически добавлять невидимые водяные знаки в тексты, сгенерированные с помощью ChatGPT и Codex на территории Европейского союза.

Технология textGrain, разработанная OpenAI, не включает в текст скрытые символы, необычные знаки препинания или дополнительные токены. Вместо этого она изменяет статистические паттерны слов и токенов, присваиваемых моделью. При генерации текста ИИ-модель обычно оценивает вероятности нескольких возможных следующих токенов. TextGrain корректирует эти вероятности в соответствии с секретным паттерном, побуждая модель выбирать определенные варианты.

OpenAI утверждает, что их технология textGrain превосходит другие протестированные подходы, включая SynthID от Google. Эта технология также будет доступна для исследователей и организаций, заинтересованных в создании инструментов для определения текстов, сгенерированных ИИ.

Тем не менее, OpenAI отмечает, что водяные знаки на текстах менее надежны по сравнению с водяными знаками на изображениях или аудиозаписях. Чем короче текст, тем сложнее OpenAI определить факт его генерации ИИ. Внутренние тесты показали, что детектор OpenAI способен идентифицировать около 80% отрывков из 200 токенов с водяными знаками и примерно 95% отрывков из 400 токенов.

Небольшие правки могут существенно ослабить эффективность водяного знака. В ходе тестирования OpenAI обнаружила, что замена всего 10% слов снижает вероятность обнаружения водяного знака с 92% до 66%, а замена 25% слов — до 17%.

Для предотвращения ложных срабатываний, которые могут привести к необоснованным обвинениям, OpenAI подчеркивает, что обнаружение водяного знака не следует рассматривать как доказательство полного копирования текста из ChatGPT. Водяной знак может указывать на использование модели OpenAI для генерации или обработки части контента, но не позволяет определить степень редактирования и объем ручной работы, вложенный в конечный результат.

Подготовлено ТИАП по материалам Neowin.

Понравилась ли Вам статья?