AI-супермоделът Claude Mythos само за един месец откри над 10 000 уязвимости в софтуера

Компанията Anthropic публикува първия доклад относно проекта в областта на киберсигурността Project Glasswing, стартирал през април. В основата на инициативата стои все още недостъпният за широката публика ИИ-модел Claude Mythos Preview, която само за един месец помогна на партньорите на Anthropic да открият над 10 000 уязвимости в техните софтуерни продукти.

Повечето компании, получили достъп до невронната мрежа, са открили стотици критични бъгове в своите продукти. Както съобщава Engadget, Cloudflare е открила 2000 уязвимости, от които 400 са класифицирани като високорискови или критични. Mozilla откри и коригира 271 грешки в браузъра Firefox, като значително надмина резултатите от тестовете с предишните версии на модела Claude. Също така и неотдавнашното изявление на Microsoft за предстоящо увеличение на обема на издаваните фиксове е пряко свързано с резултатите от сканирането на инфраструктурата чрез Mythos Preview.

Освен корпоративния сектор, специалистите от Anthropic тестваха хиляда проекта с отворен код, където ИИ откри над 6200 критични заплахи от 23 хиляди намерени пропуски. При това външни изследователи заявиха, че с помощта на Mythos са успели да намерят начин за пробиване на защитената операционна система macOS. На фона на такава висока ефективност Anthropic засега отказва публичното пускане на модела, тъй като разработчиците се опасяват от използването на технологията от злонамерени лица и възнамеряват да направят алгоритъма обществено достъпен едва след създаването на надеждни защитни механизми.

В момента Anthropic разширява достъпността на Project Glasswing, като работи за възстановяване на отношенията с правителството на САЩ и привлича за сътрудничество големи технологични компании, включително Apple, Google и Nvidia.