ChatGPT начнет тайно помечать сгенерированные тексты

OpenAI в ближайшие недели начнет помечать тексты, созданные с помощью ИИ, невидимыми водяными знаками. Компания сообщила о внедрении собственной технологии textGrain в ChatGPT и Codex для пользователей Евросоюза в связи с требованиями европейского закона об искусственном интеллекте.

Механизм основан на особенностях выбора слов моделью. При достаточно длинной генерации формируется закономерность, которую человек не замечает, но специальный детектор может распознать. Метка не позволит установить личность пользователя, его запрос или переписку, а также не покажет, какая часть материала написана человеком.

С сегодняшнего дня добавлять такие водяные знаки смогут пользователи API OpenAI по всему миру. Компании разрешат отключать эту функцию. Сам детектор пока не станет доступен всем желающим: сначала его получат одобренные исследователи и экспертные организации, которые помогут протестировать технологию.

OpenAI признает, что textGrain пока не дает полной гарантии обнаружения. Для текста объемом около 200 токенов точность составляет примерно 80%, а при 400 токенах достигает около 95% при уровне ложных срабатываний в 1%.

Эффективность системы резко падает после редактирования. В тестах OpenAI замена 10% слов синонимами снизила вероятность обнаружения с 92% до 66%, а замена четверти слов – до 17%. Поэтому отсутствие водяного знака само по себе не доказывает, что текст написал человек.

Ранее о невидимой маркировке контента, созданного ИИ, объявила и Anthropic. Компания также связала решение с требованиями европейского законодательства об искусственном интеллекте.

Ранее журнал Vanity Fair включил главу OpenAI Сэма Альтмана в число самых влиятельных фигур США. В рейтинге The New Establishment 2026 он занял первое место, опередив руководителя Anthropic Дарио Амодеи и Илона Маска.