Anthropic рассказала о новой системе водяных знаков в Claude AI

Компания Anthropic ответила на несколько вопросов о добавлении водяных знаков к текстам, сгенерированным Claude, сообщает Techcrunch. Ранее компания объявила, что весь контент ее нейросетей будет с незаметными водяными знаками в соответствии с Кодексом прозрачности Закона ЕС об искусственном интеллекте.

По словам Anthropic, при выборе между незначительными вариантами — например, «пасмурная» или «серая» для описания погоды — Claude может создавать в ответах паттерн, который «незаметен для читателя, но заметен для любого, у кого есть ключ для расшифровки». Компания утверждает, что водяные знаки не влияют на качество работы Claude, и для читателя ответ с меткой неотличим от ответа без нее.

При этом создатели Claude подчеркивает, что водяные знаки принципиально отличаются от методов обнаружения ИИ, предлагаемых, например, Pangram, которые ищут в тексте «отличительные признаки» вроде конструкции «это не [X], это [Y]».

Anthropic будет использовать подход SynthID-Text, описанный командой Google DeepMind в 2024 г., и планирует выпустить API для обнаружения водяных знаков. 

На вопрос, можно ли скрыть водяной знак переписыванием, в Anthropic ответили, что легкое редактирование, скорее всего, не уберет его полностью, тогда как полная замена текста, когда меняется каждое слово, — да. Если текст был лишь незначительно отредактирован нейросетью, то водяной знак будет практически незаметен, поскольку почти все слова написаны человеком.

При генерации кода водяных знаков будет меньше, чем в обычном тексте, так как модели необходимо создавать рабочий код, и у нее нет возможности выбирать из множества одинаково допустимых вариантов. 

Также Anthropic отдельно указала, что в текст ничего не добавляется, никаких скрытых символов; нанесение водяных знаков не требует дополнительных затрат; сами метки не содержат никакой идентифицирующей информации и не позволяют отследить конкретного человека, организацию или чат.