Anthropic внедрит текстовые водяные знаки в Claude и ответит на опасения

Anthropic объявила о том, что некоторые модели Claude будут встраивать в свои ответы едва заметный текстовый водяной знак. Он сохраняется даже после копирования и частичного изменения текста, что позволяет определить, создан ли он искусственным интеллектом или человеком. Технические детали работы системы пока не раскрыты, и это уже породило вопросы со стороны разработчиков и экспертов — от того, не повлияет ли водяной знак на качество ответов, до проблем с авторским правом.

По информации Business Insider, Anthropic дала официальные ответы на самые обсуждаемые вопросы. Технологический инвестор Билл Гёрли выразил опасение, что если только сама компания сможет распознавать такие метки, то она окажется одновременно в роли судьи, присяжных и обвинителя. В Anthropic заверили, что планируют предоставить бесплатный API, с помощью которого любой пользователь или сторонняя организация сможет самостоятельно проверить текст на наличие водяного знака.

Разработчиков также беспокоит, что встраивание метки может изменить поведение самих языковых моделей. Однако, по словам представителей компании, водяной знак не влияет на суть ответа, его качество или читаемость. Отдельно обсуждалась ситуация, когда человек лишь слегка обрабатывает текст с помощью ИИ, например, просит Claude проверить грамматику. В Anthropic подчеркнули, что водяной знак лишь свидетельствует о том, что модель взаимодействовала с текстом, но не доказывает, что он полностью написан нейросетью. Метка может остаться даже после редактирования, перевода или реферирования.

Эксперты поднимают и вопросы приватности и копирайта. Бывший топ-менеджер Microsoft Стивен Синофски считает главной проблемой то, что у людей отнимают право на частные мысли без цифрового следа. Инженер Джон Крикетт обратил внимание на сложности с авторским правом на код: если в сгенерированном коде есть водяной знак, автору будет труднее доказать, что его работы достаточно для признания творческого вклада человека. В Anthropic объяснили, что решение о водяных знаках продиктовано необходимостью соблюдать европейский Закон об искусственном интеллекте, и с 2 августа метка уже применяется к текстам всех поддерживаемых моделей Claude по всему миру.

Похожие технологии используют и другие компании: Google помечает сгенерированный контент через SynthID, OpenAI — часть изображений и аудио, а соцсеть X ставит на такие публикации метку «Сделано с помощью ИИ». На прошлой неделе эта система дала сбой, ненадолго пометив прощальный пост уходящего пресс-секретаря Белого дома Каролайн Левитт, хотя позже метка исчезла.