Експерименталната версия на Claude е успяла да изпълни чужд код и да извлече данни от заключен смартфон
Експериментален AI модел на Anthropic е открил самостоятелно уязвимости в браузърите Google Chrome и Safari, както и в операционните системи Android, Windows и Linux, и ги е комбинирал в работещи инструменти за проникване. Това съобщиха изследователите от компанията, цитирани от TechCrunch. Вътрешна версия на Claude, която все още не е достъпна за потребителите, е анализирала програмен код и е съставила вериги от експлойти по пет сценария за атаки.
При тестовете моделът е успял да изпълни чужд код извън браузъра, да извлече данни от заключен смартфон и да изпълни команди с администраторски права на Linux сървър. Всички атаки са проведени в изследователска среда, а информацията за откритите грешки е била предадена на разработчиците на софтуера.
Chrome: 62 уязвимости и излизане от изолираната среда
В Google Chrome моделът е открил четири уязвимости, които в комбинация са позволили излизане извън изолираната среда на браузъра. Първо е била намерена уязвимост в JavaScript V8 енджина, след което Claude е заобиколил ограниченията за достъп до паметта и е получил контрол над процеса на обработка на уеб страниците. Следващите етапи са използвали уязвимости в CacheStorage и механизма за авторизация FedCM. По време на демонстрация специално подготвена страница за няколко секунди е стартирала приложението „Калкулатор“ на компютър с macOS без никакви действия от страна на потребителя.
Anthropic е съобщила на Google за общо 62 уязвимости с висока и критична степен на опасност, включително 13 начина за излизане от пясъчника на браузъра. Поправките са включени в Chrome 156.
Safari: заобикаляне на Same-Origin Policy
В Safari Claude е открил възможност за заобикаляне на политиката за един и същ източник (Same-Origin Policy), която забранява на един сайт да получава данни от друг. За целта AI асистентът е комбинирал няколко уязвимости в ядрото JavaScriptCore и механизмите за изолация на браузъра. Експлойтът е позволил четене на историята на посещенията, „бисквитките“ и съдържанието на страниците, на които потребителят вече се е авторизирал. Например злонамерен сайт е можел да получи достъп до електронна поща или информация за банкова сметка. Apple е отстранила откритите проблеми.
Android: извличане на данни от заключен Pixel 9
Отделни тестове са проведени на смартфона Google Pixel 9. Claude е проучил отворения код на Android, анализирал е компонентите на Google Play Services и е намерил начин да заобиколи защитата при пренос на данни през USB. За атаката е бил необходим физически достъп до устройството, но собственикът не е трябвало да отключва екрана или да потвърждава свързването. Подготвеният от AI експлойт е позволявал копирането на снимки и други лични файлове. Според информация от Anthropic Google вече е отстранила откритите уязвимости.
Windows и Linux: срив на сървър и root достъп
В Windows AI моделът е открил уязвимост, свързана с обработката на мрежови HTTP/3 заявки. Изпращането на специално подготвени пакети е можело да предизвика аварийно прекратяване на работата на сървъра, а повторението на атаката – да попречи на възстановяването на достъпността му. Microsoft е пуснала корекция.
В Linux Claude е разработил по-сложен експлойт за сървъри, използващи Multipath TCP. Той е позволявал отдалечено изпълнение на команди с root права без предварителна авторизация. В един от тестовете за получаване на адрес в паметта на ядрото са били необходими 48 минути, а още 5 минути е отнело изпълнението на командата. Тази уязвимост също е отстранена.
Ограничена информация за модела
Anthropic не е разкрила името и характеристиките на използвания експериментален AI модел. Въз основа на публикуваните материали е невъзможно да се установи независимо степента на човешко участие в създаването на всеки експлойт. В компанията смятат, че подобни възможности на изкуствения интелект ще помогнат на специалистите да откриват по-бързо опасни уязвимости, въпреки че те могат да се окажат полезни и за злонамерени лица.
Седмица по-рано, с помощта на Claude специалистите от Anthropic са проверили 25 големи проекта с отворен код и са открили почти 500 проблема, свързани със сигурността. Сред откритията се оказала уязвимост в конфигурация, която е останала незабелязана в продължение на цели 21 години.