Френската лаборатория за изкуствен интелект Mistral пусна най-мощния си модел с 1 трилион параметъра, мултимодални способности и високи резултати по киберсигурност

Френската лаборатория за изкуствен интелект Mistral представи новия си AI модел Large 4 Le Chonk, който според компанията е най-мощният в гамата ѝ. Моделът е достъпен за предварително ползване чрез API, а отворените му тегла се очаква да бъдат публикувани до края на октомври, съобщи Mistral.

Архитектура и възможности

Mistral Large 4 използва Mixture-of-Experts (MoE) архитектура с общ размер от 1 трилион параметъра, като при обработка на конкретно запитване се активират приблизително 49 милиарда от тях. Моделът е мултимодален и може да работи както с текст, така и с изображения, включително сложни документи, графики, технически чертежи и изображения с голям формат.

Освен отговаряне на въпроси, Large 4 е способен да изпълнява последователности от действия – да събира информация, да включва външни инструменти и да получава краен резултат. Според Mistral това го прави подходящ за писане на програмен код, анализ на документи, работа с презентации, финансов анализ и научни изчисления. Компанията позиционира модела като инструмент за професионална работа, а не просто като чатбот платформа.

Резултати по киберсигурност

В теста Artificial Analysis Cyber Index, който включва откриване на уязвимости в отворен проект и създаване на пач за тях, Mistral Large 4 постига 82% – най-добрият резултат сред всички участници. В набора от 40 задачи на Cybench моделът отбелязва 93%. От Mistral отбелязват, че някои затворени AI модели показват по-ниски резултати в тези тестове не поради слаби способности, а поради ограничения, което е проблем за експертите по киберсигурност.

Въпреки отворения характер и силните умения в киберсигурността, от компанията подчертават, че Large 4 не позволява изпълнението на опасни инструкции – както преки, така и косвени. Според Mistral моделът често се справя с това по-добре от други тествани отворени AI модели.

Обучение и бъдещи планове

Новият флагмански модел е обучен на 3800 AI ускорителя Nvidia Grace Blackwell в собствените центрове за данни на Mistral в Европа, което според компанията подчертава суверенния му характер.

В настоящата си версия Mistral Large 4 все още не е окончателен – компанията продължава обучение с подкрепление и очаква качеството да се подобрява през следващите седмици и месеци. Впоследствие моделът ще послужи като основа за цяло семейство модели от ново поколение, предназначени за конкретни отрасли и задачи. Mistral обещава да публикува отворените тегла на Large 4 Le Chonk до края на октомври.