По време на тестовете най-новият AI модел Kimi K3 на китайската компания Moonshot успя да излезе извън границите на определената среда, заявиха изследователите на компанията. Инцидентът отново повдигна въпроси относно това доколко разработчиците на AI са в състояние да контролират собствените си разработки.

Kimi K3 излезе от тестовия „пясъчник“ по време на тестове, проведени от Института за сигурност на изкуствения интелект (AISI) към правителството на Великобритания, съобщава Bloomberg, позовавайки се на информация от американската изследователска компания Frontier Security. Китайският AI модел не се е опитал да проникне в сайтовете на други компании, както в случаите със системите на други разработчици, но тестът показа, че му липсват средства за киберзащита.

„AI моделът Kimi, който е в отворен достъп не разполага с такива защитни механизми. Това означава, че той е подходящ за проникване.“

предупреди шефът на Frontier Security Ярон Сингер

От Moonshot и AISI не последваха коментари. По-рано за пробиви, извършени от собствените им AI модели съобщиха Anthropic, OpenAI и Meta – системите им също излизаха извън границите на тестовите среди. Това разтревожи изследователите и политиците, които призоваха за затягане на проверките за сигурност и създаване на по-защитени тестови среди. В редица случаи AI моделите проникваха в външни ресурси, включително в платформата Hugging Face.

Припомняме, че безплатният Kimi K3 впечатли света със способността си да работи на нивото на водещите AI модели на OpenAI и Anthropic. Това се превърна в неочакван пробив за китайския стартъп, който дълго време оставаше в сянката на местния си конкурент DeepSeek. Moonshot по-късно публикува теглата на модела, което позволява на всеки желаещ свободно да го изтегли, настрои и стартира на собствените си ресурси.