OpenAI работи върху нов модел на Astra, който ще използва необичаен подход към разсъжденията, наречен recurrent depth. За разлика от традиционните модели на разсъждение, които действат стъпка по стъпка последователно, новата технология позволява на модела да обработва една и съща заявка многократно в цикъл. Това съобщава TechCrunch, позовавайки се на The Information.
Проблемът не е толкова в самата технология, а в това колко трудно ще бъде да се наблюдава мисловният процес на изкуствения интелект. Този подход се нарича още „непрозрачна рекурентност“, защото моделът оставя по-малко ясни следи от своите разсъждения. Това може да затрудни откриването на опасно поведение или грешки.
Експерти по сигурността на изкуствения интелект вече изразиха опасения. Главният изпълнителен директор на Redwood, Бък Шлегерис, предупреди, че ако OpenAI значително увеличи използването на повторяемост, традиционните проверки по веригата за проследяване биха могли да станат много по-малко ефективни. Други изследователи се опасяват, че подобна технологична надпревара може да отслаби стандартите за сигурност в цялата индустрия.
В същото време Astra все още не се отказва напълно от разбираемата верига на разсъждения. Според наличната информация, използването на новата техника ще бъде ограничено. OpenAI също така отрича предположението, че моделът ще премине към напълно неразбираем начин на „мислене“ за хората. Компанията заяви, че наблюдението на веригите на разсъждения остава една от ключовите области на работата ѝ по сигурността.