Компанията Anthropic започна да въвежда невидими водни знаци в текста, генериран от новите модели Claude. Маркировката, която може да се чете от машините, трябва да помогне на издателите, образователните институции и други организации да установят дали текстът е бил обработен от ИИ. Самият знак не е видим за потребителя и няма да повлияе на четимостта на материала.
Водният знак се вгражда директно в генерирания текст и се запазва при копиране и поставяне. В някои случаи той може да остане и след последващо редактиране. Моделите Claude, пуснати на пазара от 2-ри август 2026 г., ще започнат да маркират генерираните текстове веднага след стартирането си, а за по-старите версии компанията планира да въведе функцията по-късно.
Маркирането стана част от мерките на Anthropic за спазване на изискванията на европейския Закон за изкуствения интелект, по-конкретно член 50 относно прозрачността на съдържанието, създадено от ИИ. При това то ще се прилага към цялото съдържание, генерирано от поддържаните модели на Claude, независимо от страната на потребителя. Anthropic също така възнамерява да предостави на външните организации инструменти за откриване на своите водни знаци и да публикува техническите подробности за работата на системата.
За мултимедийните файлове компанията използва друг подход: изображенията и документите в другите поддържани формати се предоставят с цифров подпис съгласно стандарта C2PA. Тези метаданни потвърждават, че файлът е създаден или обработен от модела Claude. Въпреки това, за разлика от текстовото маркиране, тази защита е по-неустойчива — маркировката може да се изтрие при конвертиране на формата, създаване на екранна снимка или повторно запазване.
Защо това е важно за дигиталната екосистема?
В Anthropic разчитат, че новата технология ще помогне за разкриването на случаи, в които съдържание, създадено от ИИ, се представя за човешко. За издателската индустрия това е особено актуално: през последните години вече възникнаха шумни спорове около книги, чиито автори бяха заподозрени в използването на генеративен ИИ.
В същото време компанията подчертава, че водният знак няма да може да служи като доказателство за авторство.Редактирането, преформулирането, преводът или смесването на текст, създаден от Claude, с други материали може да направи маркировката незабележима. Освен това знакът може да се появи в текст, който първоначално е написан от човек, но след това е бил преведен, редактиран или обобщен с помощта на Claude. И обратното, липсата на маркировка не означава, че текстът е написан от човек.
Anthropic стана втората голяма технологична компания, която въвежда подобна система за текстово съдържание. През 2024 г. Google DeepMind представи технологията SynthID за маркиране на текст и видео, създадени от Gemini, а година по-рано — нейната версия за изображения.