„Истинска стъпка напред“: Cloudflare сравни Anthropic Mythos с опитен изследовател

Експертите на Cloudflare проучиха възможностите на усъвършенствания модел на изкуствен интелект Anthropic Mythos и дадоха най-положителни отзиви за него, въпреки че уточниха, че подходящите сценарии за прилагането му все още предстои да бъдат разработени.

Cloudflare участва в програмата Anthropic Project Glasswing, в рамките на която му е предоставен достъп до Mythos. Целта на програмата е да се изпреварят нападателите, използващи изкуствен интелект, в откриването на уязвимости в системите. Сред другите участници в програмата са Amazon Web Services, Apple, Google, Microsoft и Nvidia, на които Anthropic е предоставил заеми в размер до 100 млн. долара, за да им позволи да проучат възможностите на Mythos. „Claude Mythos Preview“ е универсален, все още непубликуван модел, който разкрива един суров факт: AI моделите са напреднали до такава степен в програмирането, че могат да надминат всички, освен най-опитните хора, в намирането и използването на софтуерни уязвимости. Проектът Glasswing е бърз опит за използване на тези възможности за целите на отбраната“, отбелязват от Cloudflare.

Mythos впечатли експертите на Cloudflare; компанията призна, че това е „истинска крачка напред, а не просто подобрение на това, което е имало преди. Ппромяната в Mythos е, че моделът вече може да събере тези грешки с ниска степен на опасност (които традиционно биха останали невидими в списъка с неизпълнени задачи) и да ги комбинира в един-единствен, по-опасен експлойт.“ По време на тестването Cloudflare подчерта две от най-важните характеристики на Mythos: „верижно комбиниране на експлойти“, което е способността за интелигентно комбиниране на уязвимостите в последователен модел на атака; и „генериране на доказателства“, което е действителната демонстрация, че откритията работят.