Anthropic установи, че програмисти, „вероятно работещи на свободна практика“ и базирани в Русия са използвали изкуствения интелект Claude за създаването на основния софтуер за автономен рояк от дронове-камикадзе, способни да избират цели (включително хора) без човешки надзор. В своя доклад от 154 страници за това как злонамерени лица злоупотребяват с изкуствения интелект Claude, Anthropic описа как технологията ѝ е била използвана от лица, свързани с Русия.
Компанията заяви, че е наблюдавала малък екип от злонамерени лица, базирани в Русия, проследени като GTG-27005, които са използвали Claude Code, за да пишат и тестват код и да го запазват директно в собствените си проектни файлове. Наред с Claude Code те са използвали софтуер за симулация, за да тестват системата и са наели изчислителна мощност, за да обучат AI моделите.Операцията, наречена DronDoc или Serafim e започнала в средата на май. Програмистите, които са създали акаунтите си между края на миналата и началото на тази година са заобикаляли географските блокировки на Anthropic, като са пренасочвали трафика през търговски виртуални частни сървъри (VPS). Claude им е помогнал да разработят споделена „памет за рояка“ и система за координация, устойчива на грешки, така че дроновете да могат да работят заедно. След това те създали малък езиков модел на борда, който да определя дали дроновете трябва да атакуват, да наблюдават или да се върнат в базата.
Anthropic заяви, че системата за насочване е била в състояние да избира сама целите си и да издава команда за атака без човешка намеса. Според компанията тя е била проектирана „за автономно смъртоносно действие“, а категориите ѝ на цели изрично включват „човек“.
Извършителите са обучили класификатор за компютърно зрение въз основа на събрани украински бойни кадри, като са маркирали целите като „вражески“ или „приятелски“ и са включили руските системи в списъка с разрешени цели. Екипът от свободни професионалисти също така многократно е използвал едно конкретно място в украинската област Донецк като демонстрационна точка за удари, а украински градове и коридори на фронтовата линия – като географска област на мисията.
Anthropic счита, че участниците „са били малък, специализиран екип от фрийлансъри, извършващи както гражданска, така и военна дейност“, а не руска държавна структура. Компанията идентифицира общо девет акаунта и свърза участниците с регионален университет и федерален изследователски център, свързан с Руската академия на науките. Акаунтите вече са блокирани.
Извършителите също така са твърдяли, че са получили финансиране от руската Фондация за напреднали изследвания, Националната технологична инициатива и Министерството на отбраната. Anthropic заяви, че не може да потвърди тези твърдения. Компанията отбеляза, че нападателите все по-често използват изкуствен интелект за организиране на кибератаки срещу представители на украинското правителство и военни цели.