Возможно, вы видели водяные знаки на изображениях, созданных с помощью ИИ, указывающие на то, что они действительно были созданы с использованием ИИ. Теперь даже текст, сгенерированный ИИ, помечается водяными знаками, чтобы потребителям было проще распознавать онлайн-контент и комментарии, написанные ИИ.
Компания Anthropic, разработавшая приложение Claude, подписала Кодекс практики ЕС по обеспечению прозрачности контента, созданного с помощью ИИ, и объясняет, как работает текстовое водяное маркирование.
Текстовые водяные знаки машиночитаемы, но должны быть незаметны для человека. «Когда поддерживаемая модель Клода генерирует текст, она вплетает в него незаметный водяной знак. Вы его не увидите, и он не меняет смысла, качества или читаемости ответа Клода», — пишет компания.
Этот невидимый водяной знак сохранится после копирования и вставки. Интересно, что он даже выдержит небольшую редактуру текста, так что обойти его будет не так-то просто. Однако он не сработает, если текст слишком короткий или если кто-то потратит дополнительное время на его редактирование.
Все модели Claude, запущенные в ЕС 2 августа или позже (когда Кодекс вступил в силу), автоматически добавляют водяной знак к тексту. Это делается самой моделью, поэтому не имеет значения, используете ли вы API Claude, Кодекс Claude, Cowork или Tag. Также не имеет значения, какого поставщика услуг вы используете — AWS, Google Cloud и Microsoft Foundry работают одинаково.
Кроме того, Anthropic работает над добавлением водяных знаков к более старым моделям (выпущенным до 2 августа) и планирует внедрить эту функцию по всему миру, а не только в ЕС. Компания также разрабатывает инструменты, которые помогут пользователям обнаруживать эти водяные знаки — эти инструменты будут представлены в ближайшее время.
Обратите внимание, что водяной знак будет применяться ко всему тексту, созданному моделями Claude, даже если ИИ не являлся его первоначальным автором. Например, если вы используете Claude для перевода, составления резюме, форматирования или проверки текста, результат будет снабжен водяным знаком.
Это не входит в Кодекс практики, в котором есть специальное исключение: «Это обязательство не применяется в той мере, в которой системы ИИ выполняют вспомогательную функцию для стандартного редактирования или не вносят существенных изменений во входные данные, предоставленные развертывающим программным обеспечением, или в их семантику». Компания Anthropic все равно это сделает, действуя с осторожностью.
Мы также упомянули изображения, сгенерированные ИИ — те водяные знаки, которые вы, возможно, видели, достаточно легко удалить. Вместо этого изображения в форматах JPG, PNG и SVG будут подписаны метаданными, подтверждающими происхождение, на основе открытого стандарта, разработанного Коалицией по обеспечению происхождения и подлинности контента (C2PA).
Очевидно, что упрощение распознавания контента, созданного ИИ, — это здорово. Но это выгодно и для компаний, занимающихся ИИ: по мере того, как все больше ботов заполоняют интернет комментариями и даже целыми статьями, компаниям, разрабатывающим ИИ, может потребоваться обучать новые модели на тексте, написанном старыми моделями. Тем не менее, мы будем считать это победой для потребителей.