Anthropic добавит невидимые водяные знаки в тексты Claude против выдачи ИИ за оригинал

Компания Anthropic объявила, что новые версии языковой модели Claude будут встраивать в сгенерированный текст невидимый водяной знак. Как утверждают разработчики, он не меняет смысл и читаемость, сохраняется при копировании и даже после частичного редактирования. Это сделано для борьбы с выдачей контента, созданного ИИ, за оригинальный, а также для соблюдения требований европейского Акта об искусственном интеллекте. Механизм заработает в моделях, выпущенных с 2 августа, а для старых версий его добавят позже. Водяной знак будет проставляться на всех текстах Claude по всему миру, включая те, что генерируются через облачных провайдеров. Также Anthropic намерена предоставить третьим лицам инструменты для обнаружения таких меток.

Новшество может стать важным для издательской индустрии. Ранее в этом году литературный агент отказался от поддержки романа "Call Me, I'll Hide the Body" из-за подозрений, что его написал ИИ, хотя книга уже привлекла четырнадцать издательств и была продана. Автор Джери Фаладе отрицал использование ИИ. А издательство Hachette сняло с публикации хоррор "Shy Girl" писательницы Мии Баллард: выяснилось, что внештатный редактор добавил в текст сгенерированный контент без её ведома.

Однако технология не панацея. В Anthropic признают, что сильное редактирование, пересказ, перевод или смешивание с другими материалами может сделать водяной знак необнаружимым. Кроме того, наличие метки не доказывает, что текст создан именно Claude: например, даже простая вычитка или перевод с помощью модели тоже может оставить след. Это уже не первый подобный шаг. В 2024 году Google DeepMind заявила о внедрении технологии SynthID для текстов и видео в Gemini, а ещё раньше, в 2023-м, — для изображений.