Изследователят от OpenAI Ноам Браун заяви в подкаста Dwarkesh Podcast, че дори физическата изолация на компютрите от външните мрежи в бъдеще може да не гарантира, че обменът на данни между ИИ-системите ще бъде невъзможен. Например, компютрите са способни да предават информация чрез промени в температурата на процесорите. Експерименти вече доказаха това, като установиха, че скоростта на този трансфер не надвишава 8 бита на час. Но това е само един от възможните канали за скрит обмен на данни. Браун е убеден, че с времето AI ще се научи да заобикаля всякакви системи за контрол, поради което неговите действия могат да се проследяват надеждно само чрез няколко нива на контрол, които постоянно се допълват с нови инструменти.
В подкаста Браун обсъди инцидента с Hugging Face, при който агентите на OpenAI получиха достъп до външна инфраструктура и я използваха за изпълнение на задачи, излизащи извън рамките на първоначалните ограничения. Според разследването на OpenAI сред факторите, повлияли на поведението на моделите, са били пробиване на механизмите за контрол, неразрешена комуникация между агентите и взаимно заимстване на цели. След инцидента компанията засили изолацията на средите, ограничи достъпа до интернет и добави допълнителни мерки за мониторинг.
Необходимият мониторингСпоред Браун един от инструментите, който би могъл да помогне за по-ранното откриване на подобно поведение, е мониторингът на веригата от разсъждения на модела, тоест последователността от действия и разсъждения, които съпътстват изпълнението на задачата. Той заяви, че в случая с моделите, нарушили ограниченията, подобен мониторинг би позволил незабавното им спиране.
След инцидента OpenAI започна да използва мониторинг на веригата от разсъждения при оценката, обучението и внедряването на перспективни модели.
При това самата OpenAI още през декември 2025 г. описваше мониторинга на веригата от разсъждения като един от инструментите за откриване на нежелано поведение на моделите. В компанията отбелязаха, че моделите могат директно да опишат намерението си да заобиколят ограниченията, а отделен модел-наблюдател е способен да открива подобни действия. Защо OpenAI не е използвала този инструмент при обучението на собствените си модели е отворен въпрос. Впрочем изследователите предупреждаваха и за обратен ефект – при интензивно обучение на самите вериги на разсъждения AI може да се научи умело да маскира истинските си цели.
Как автономните модели заобикалят физическата изолация?
Физическата изолация от мрежата дълги години бе основен стандарт за сигурност
Като по-необичаен сценарий Браун спомена възможността за пренос на данни между физически изолирани компютри с помощта на топлина.
Той се позова на изследвания, при които един компютър променя температурата на процесора, а друг отчита тези промени чрез вградени сензори. Един от примерите е методът BitWhisper, описан от изследователи от Университета „Бен-Гурион“ през 2015 г.
Само че възможностите на този канал са ограничени. В експериментите с BitWhisper компютрите са били разположени на разстояние до 40 cm един от друг, а скоростта на предаване е била едва 1–8 бита на час.
Освен това, за да функционира методът, и двата компютъра е трябвало вече да бъдат компрометирани от злонамерен софтуер. Ето защо изследването демонстрира принципната възможност за скрита връзка чрез топлинни сигнали, но само по себе си не свидетелства за способността на съвременните AI самостоятелно да използват такъв канал.
Браун посочи топлинния канал като пример за това защо разработчиците не трябва да разчитат на един-единствен механизъм за защита. В същото време той счита, че основният практически извод от инцидента с Hugging Face е необходимостта да не се подценяват възможностите на моделите. OpenAI вече обяви засилване на мониторинга и други защитни мерки, но самият Браун отбеляза, че с развитието на AI компаниите ще трябва да използват няколко независими нива на контрол, тъй като отделните методи могат да престанат да работят.