Anthropic преговарят с американското правителство относно Fable и Mythos

По-рано този месец американското правителство взе решение да забрани достъпа на Fable и Mythos за не-американски потребители и компании. Изтъкнатата причина – потенциална заплаха за националната сигурност на САЩ. Anthropic от своя страна заявиха, че не могат да филтрират в реално време американски от неамерикански потребители на модела. В крайна сметка, моделът беше изведен офлайн. Това е довело и до среща между компанията и представители на правителството. И двете страни се надяват да намерят решение.

Fable 5 се явява потребителска версия на класа модели Mythos, насочени към киберсигурността. Моделите Fable 5 имат и специални защити, свързани с чувствителни области, като хммията, биологията и др. Що се отнася до решението на американското правителство, то беше провокирано от предупреждение на Amazon. Според The Information и др. медии, Amazon са предупредили високопоставени представители в Белия дом, че защитите на Fable могат да бъдат преодолени и технологията да се използва за провеждането на кибератаки. „Откритието“ на Amazon провокира остри реакции от Anthropic и киберзащитната индустрия. Според тях, идентифицираните чрез Fable 5 уязвимости са сравнително вече известни и такива, които могат да бъдат разкрити и в сходни AI модели, като например ChatGPT 5.5.

Междувременно представители на киберзащитната индустрия са изпратили открито писмо до правителството с настояване рестрикциите по отношение на Fable 5 да бъдат вдигнати. Те изтъкват, че моделът разполага с достатъчно защитни механизми, за да не се използва за атаки. Що се отнася до техниките, използвани за преодоляване на защитите, то те са валидни и за всички днес достъпни модели. И чрез блокирането на Fable 5 не се решават генерални проблеми. Според тях, забраната над модела поставя САЩ в неравностойна позиция спрямо противниците им. Чието развитие в тази област бързо напредва.

Както Fable 5, така и Mythos 5 остават офлайн до постигане на споразумение между двете страни. Очаква се разговорите между тях да продължат на срещата на страните от G7.

Припомняме, че това не е първия сблъсък между Вашингтон и Anthropic. По-рано през годината, те сблъскаха позициите си по отношение на използването на Claude от Пентагона. Военните настояваха за отключване на пълните възможности на модела. Anthropic, от своя страна, настояваха, че някои негови способности ще останат „заключени“. Цитираните от Дарио Амодей, шефът на Anthropic цели, за които той не иска да се използва модела са автономни оръжия и масово следене. Спорът между двете страни ги заведе в съда. А американското правителство обяви, че ще изхвърли технологията на Anthropic от федералните договори. Нещо, което вероятно не е станало, наблюдавайки случващото се сега.