OpenAI интегрировала скрытые водяные знаки в длинные тексты, сгенерированные GPT
Введение
20 апреля 2025 года исследовательская компания Rumi обнаружили, что недавно вышедшие нейросети GPT-o3 и GPT-o4 интегрируют скрытые вотермарки в сгенерированный текст. По всей видимости, OpenAI сделала это для борьбы с плагиатом, однако, вотермарки можно легко удалить.
Подробнее о вотермарках от OpenAI
Как выяснилось в процессе тестирования, модели GPT-o3 и GPT-o4 интегрируют вотермарки только в длинные сгенерированные тексты — в них вставляются специальные символы Юникода, в частности, короткие неразрывные пробелы, практически не отличимые от обычных пробелов, но имеющие другие коды ASCII. В ответах остальных чат-ботов, каких как GPT-4o, особых символов не было обнаружено. Когда исследователи обратились с вопросами к самой компании, OpenAI заявили, что специальные символы имеют технический характер и не несут функции обнаружения плагиата. Выявить скрытые символы можно через любой текстовый редактор с отображением невидимых маркеров, например, Sublime Text или Visual Studio Code. Стоит отметить, что ранее OpenAI объявила о тестировании интеграции водяных знаков в изображения, сгенерированные через GPT.
Несмотря на то, что вотермарки обычно работают более эффективно, чем инструменты проверки с детектором ИИ, скрытые символы OpenAI можно легко удалить из сгенерированных текстов, заменив их стандартными символами. Это говорит о том, что даже если OpenAI намеренно внедрили вотермарки в сгенерированные тексты, данная мера лишь временно решает проблему и в будущем компании придется искать другие способы борьбы с плагиатом.
Выводы
Интеграция вотермарок в контент, сгенерированный через ИИ, имеет свои плюсы и минусы. Это поможет бороться с плагиатом и сократит количество пользователей, которые монетизируют подобные материалы, выдавая его за свои работы. Однако, если OpenAI действительно внедрит подобную функцию в свои нейросети, это может доставить массу проблем множеству людей, например, студентам, которые активно пользуются моделями GPT для написания проектов, докладов, дипломов и т.д. Интересно, что OpenAI выбрала отличное время для теста функции вотермарок, поскольку в уже в мае закончится акция бесплатного продвинутого доступа к моделям GPT для студентов, поэтому многие из них активно используют нейросети для написания итоговых работ перед экзаменационным периодом.
