OpenAI направи широко достъпен своя Decisions API – нов инструмент за бърз и евтин изкуствен интелект. Компанията планира да се разшири в сегмент, където стартъп компанията TypeSafe има значително предимство със своята система Jev.
Това съобщава TechCrunch .
Какво представляват моделите за вземане на решения и защо са важни?Моделите за вземане на решения (или решения на първа система) позволяват на изкуствения интелект бързо да прави избор от наличните опции и да дава оценка на увереността в своето решение.
Разработчиците на софтуера отбелязват, че подобни инструменти могат да заменят конвенционалните езикови модели в различни работни процеси, работейки значително по-бързо и с намалена цена.
Никунд Ханда, ръководител на разработването на API продуктите в OpenAI, отбелязва, че колегите му са видели успеха на подобни разработки на пазара и бързо са създали своя собствена версия.
Вместо да изгради специално калибриран модел, екипът е преконфигурирал ChatGPT Luna, за да ускори обработката на заявките и да намали разходите.
Основното постижение на Decisions API беше неговата скорост: времето за обработка е намалено от 1-3 секунди на 100-180 милисекунди.
В бъдеще компанията планира да добави специализирано обучение, като същевременно гарантира, че класическите възможности на Luna успешно изпълняват възложените задачи.
Пускане и първи резултати от тестоветеDecisions API вече е достъпен за всички клиенти. OpenAI добави нови гласови и визуални възможности и оптимизира своята функционалност.
В първоначалните тестове Datadog, Ramp и Speak използваха новия API, за да заменят предишните модели на OpenAI с по-висока производителност.
По-специално, услугата за уроци Speak е намалила времето между действията от 1,4 секунди на 0,13 секунди. Компанията е използвала и продукт за подобряване на чувствителността на гласовия си асистент Dots.
Бенчмаркове и пазарна конкуренцияВсе още няма окончателен отговор на въпроса какъв трябва да бъде идеалният модел за вземане на решения. Оптималният баланс между качество, цена, точност на прогнозата и скорост зависи от конкретните задачи.
Главният изпълнителен директор на TypeSafe, Диого Алмейда, е скептичен към стандартните бенчмаркове и съветва компаниите да тестват моделите върху собствените си работни процеси. Междувременно TypeSafe наскоро публикува собствена класация и представи актуализирана версия на Jev с поддръжка на изображения и условна логика.
В публичните бенчмаркове AIM System One Index и Artificial Analysis Decision Index, D1 Ultra на Liquid и Elephant-1 на Base Lab водят. Обновеният Jev също остава сред конкурентните модели, докато решенията на OpenAI заемат други позиции в класацията. Въз основа на броя на заявките в OpenRouter, моделите TypeSafe остават най-популярни.
От особен интерес е бенчмаркът JevMan, в който изкуственият интелект контролира играта Pac-Man.
Най-новата версия на Jev оглавява този списък, защото играта изисква моделът постоянно да взема бързи и рисковани решения на всяко кръстовище – буквално за няколкостотин милисекунди.
Нови перспективи за употребаПредимството на решенията на OpenAI остава тяхната усъвършенствана мултимодалност.
По-специално, моделът Luna демонстрира висока мощност и по-добро калибриране при задачите за класификация на изображенията.
В бъдеще разработчиците целят да намалят допълнително времето за реакция до 60 милисекунди. Това ще им позволи да обработват практически всеки отделен кадър от видеопотока чрез API.
С увеличаването на скоростта и намаляването на разходите, подобни инструменти стават по-достъпни и откриват нови случаи на употреба на изкуствен интелект, които преди това са били твърде бавни или скъпи.