Водяные знаки в Claude: что нужно знать каждому пользователю

Компания Anthropic представила блог-пост, в котором объяснила, как будет работать водяной знак в текстах, создаваемых её чат-ботом Claude, чтобы соответствовать требованиям нового законодательства ЕС об ИИ.

Что такое водяной знак?

Водяной знак — это система, позволяющая идентифицировать тексты, сгенерированные искусственным интеллектом. Это нововведение стало темой обсуждений среди пользователей Claude после того, как компания объявила о своем намерении внедрить водяные метки для соблюдения Кодекса прозрачности в рамках Закона о ИИ в ЕС. Этот закон требует от компаний ИИ использования технологий, позволяющих отличать контент, созданный ИИ, от материалов, написанных людьми.

На платформах вроде Reddit пользователи выразили противоречивые мнения по этому поводу. Некоторые воспринимают это как заговор против пользователей, а другие утверждают, что единственная причина, по которой можно быть против водяных меток, — это желание обманывать людей. По данным Business Insider, многие пользователи на платформе X уже отменили свои подписки на Claude из-за введения этого новшества.

Как будет работать система водяных знаков?

По словам Anthropic, такие метки не повлияют на качество текста, созданного Claude. При создании ответов на несложные запросы, такие как выбор слов для описания погоды, Claude формирует шаблон в своих ответах, который «незаметен для читателя, но может быть обнаружен теми, кто имеет ключ, кодирующий его». Компания также отметила, что использует подход SynthID-Text, предложенный командой Google DeepMind в 2024 году, и планирует выпустить API для обнаружения водяных знаков.

Если пользователь решит переписать текст, чтобы скрыть такую метку, это возможно, но легкие изменения, скорее всего, не удалят ее полностью. Полная перепись текста, где каждое слово заменено, приведет к тому, что текст можно будет считать не созданным ИИ. Anthropic также уточнила, что если текст был лишь немного отредактирован, то «практически все слова» будут написаны человеком, и водяной метке будет крайне трудно прикрепиться к такому тексту.

Что касается кода, то здесь водяной знак будет менее заметен, так как модель должна создавать рабочий код и не сможет выбирать из множества равнозначных вариантов. Тем не менее, в местах, где есть произвольный выбор слов, например, в комментариях к коду, метка может быть применена, но это не повлияет на сам код.

Anthropic отметила, что Claude не станет единственным чат-ботом с водяными знаками, так как другие крупные разработчики моделей также подписали тот же Кодекс практики и внедрят свои собственные метки уже скоро.