По време на тестовете най-новият AI модел Kimi K3 на китайската компания Moonshot успя да излезе извън границите на определената среда, заявиха изследователите на компанията. Инцидентът отново повдигна въпроси относно това доколко разработчиците на AI са в състояние да контролират собствените си раз...
Прочети още →Първият документиран случай на автономна кибератака, извършена от ИИ-инструмент, ни принуждава да погледнем по нов начин върху дигиталната сигурност и да осъзнаем, че системите за контрол и ограничаване не са в крак с бързото развитие на изкуствения интелект. На 16 юли 2026 г. платформата Hugging...
Прочети още →На конференцията Black Hat 2026 в Лас Вегас специалистите на OpenAI разкриха нови подробности за инцидента, при който ИИ-агентите на компанията са избягали от тестовата среда и са атакували Hugging Face. Оказа се, че моделите са създали форум за съобщения в рамките на услугата Artifactory, където в ...
Прочети още →OpenAI и Anthropic потвърдиха, че техните AI-агенти са взаимодействали с реални хора и онлайн системи по време на независими тестове за киберсигурност, въпреки че е трябвало да работят само в симулирана среда. Относно това пише BleepingComputer. Инцидентите са регистрирани по време на тестове,...
Прочети още →Генералният директор на Hugging Face Клеман Деланг заяви, че Китай може да се превърне в лидер в областта на изкуствения интелект благодарение на по-отворения си подход към разработването и разпространението на модели за изкуствен интелект. Според него именно отвореният модел GLM-5.2 на китайската к...
Прочети още →