Anthropic заяви, че е разкрила и прекратила руска кибершпионска кампания срещу украински правителствени, военни и дипломатически структури. Хакерите са използвали моделите Claude почти на всеки етап от атаките, като са автоматизирали част от процесите.
Anthropic разказа за кампанията в новия си доклад Threat Intelligence, посветен на злонамереното използване на AI моделите ѝ през последните осем месеца. Според данните на компанията, изкуственият интелект все по-често се използва не просто като спомагателен инструмент, а за координиране и изпълнение на значителна част от кибероперациите.
Anthropic свърза атаката срещу украински структури с руската група Midnight Blizzard. Киберпрестъпниците са използвали фишинг кампании, прехващане на Wi-Fi в хотели и превземане на акаунти в WhatsApp. Claude е бил ангажиран практически на всеки етап от операцията. AI е помагал на хакерите да създават и променят злонамерени програми. Anthropic твърди, че те дори са създали система, която сама проверява дали защитните механизми откриват този код и го променя, ако го открие.
Компанията отбелязва, че при такива атаки хората все по-често изпълняват ролята на наблюдатели, а не на преки оператори. Това позволява на хакерите да автоматизират значително по-голяма част от кибероперациите. Anthropic също така е установила използването на Claude във военни програми на Русия, Китай и Йемен. Моделът е бил прилаган за дейности, свързани с ракети, безпилотни летателни апарати и боеприпаси, както и за разузнаване и доставки.
Ръководителят на отдела за анализ на киберзаплахи в Anthropic, Джейкъб Клайн отбеляза, че разширяването на възможностите на изкуствения интелект създава нови рискове. Според него съвременните AI модели вече се справят значително по-добре със задачи като оптимизиране на дронове или разработване на софтуер за ракети, отколкото преди година.