Anthropic обясни как ще работи невидимият воден знак в текстовете на Claude. Системата е проектирана да помага за идентифициране на текстовете, генерирани от изкуствен интелект, и е в съответствие с изискванията на Закона на ЕС за AI.
Gizmodo пише за това.
Компанията заяви, че водният знак ще бъде невидим за читателя. Той се създава не чрез специални символи или замествания на думи, а чрез избиране на специфични токени по време на процеса на генериране на текст.
Токените са малки фрагменти от текст, които моделът използва, за да генерира отговор. В ситуации, където са възможни няколко продължавания на изречения, системата може статистически да избира определени токени по-често. Самият принцип на избор се определя от секретния ключ на Anthropic.
Например, в изречение за времето, моделът може да избира между думи като „сиво“ и „облачно“. В този случай системата може да предпочете една от опциите. В изречение като „Париж е столицата на…“ обаче изборът е почти очевиден, което прави поставянето на воден знак там по-трудно.
Отделни решения като тези няма да бъдат забележими за хората. В дълъг текст обаче те се натрупват достатъчно, за да може специализиран детектор да определи, че материалът вероятно е създаден от Claude. Anthropic планира да предостави този инструмент чрез API.
Според компанията, създаването на воден знак практически няма влияние върху скоростта на генериране или потребление на токени. Въпреки това, в кратките текстове и програмен код, определянето на произхода може да е по-трудно поради по-малкия брой двусмислени варианти.
Системата може да се задейства и ако Claude се използва единствено за редактиране на текст, написан от човек. Колко забележима ще бъде тази следа зависи от обема на текста и степента, до която моделът го е променил.
Технологията е базирана на подхода, описан в проучването SynthID от 2024 г. Google използва подобна система за маркиране на съдържанието.
С разяснението на Anthropic последва и отговор от страна на някои потребители на Claude, които споделиха в социалната мрежа X, че анулират платените си абонаменти поради новата политика. Някои обясниха, че не искат клиенти, учители или други да могат да откриват използването на изкуствен интелект.
В същото време Anthropic заяви пред Business Insider, че не е наблюдавала увеличение на прекратените абонаменти след обявяването на водните знаци.