Следвай Kaldata в Google: Слушай статията0:00 / ~2:561×

ИИ-моделът на Anthropic независимо разработи пет сложни сценария за атака, способни да заобиколят защитите на популярните браузъри и операционни системи.

Това съобщава Anthropic.

Как преминаха тестовете и кои системи бяха засегнати?

Специализираното подразделение Frontier Red Team тества възможностите на модела в затворени лабораторни условия. Изкуственият интелект анализира уязвимостите и ги комбинира в работещи експлойти, демонстрирайки високо ниво на автономност.

Какви са резултатите?

В браузъра Chrome моделът е свързал четири уязвимости, нарушил е пясъчника за сигурност и е отворил приложение на трета страна няколко секунди след зареждане на злонамерената страница.

В Safari, изкуственият интелект е заобиколил правилото за сигурност, което не позволява на уебсайтовете да имат достъп до данните на други сайтове. Това потенциално е разкрило чувствителна информация на оторизираните потребители.

В Android, експлойтът е позволил извличане на снимки и други файлове от заключен смартфон, но това е изисквало физически достъп чрез USB кабел.

Атаката срещу Windows е позволила на сървър, приемащ HTTP/3 заявки, да бъде непрекъснато „допускан“, което е довело до срив на системата без достъп до съхранените данни.

В Linux изкуственият интелект е получил пълни администраторски права (root достъп) към сървър през мрежата, без да въвежда потребителско име или парола.

Въпреки това, успешното хакване на Linux е изисквало специфична мрежова конфигурация, така че атаката е нямало да сработи на всяка система, работеща с тази операционна система.

Последиците за киберсигурността и обратната връзка от разработчиците

Представители на Anthropic отбелязват, че всички уязвимости, открити по време на тестването, вече са докладвани на разработчиците и са напълно отстранени с подходящи кръпки.

Все още няма доказателства, че новите експлойти на ИИ са били използвани в реални хакерски атаки извън лабораторията на Anthropic.

Компанията не е разкрила името на новия модел, нито датата на евентуалното му пускане на пазара.

Експертите отбелязват, че подобни тестове демонстрират двойствената природа на изкуствения интелект: от една страна, той помага за откриване и затваряне на пропуските в сигурността, преди да възникне заплаха, а от друга, демонстрира рисковете от създаването на напълно автономни дигитални хакери.