Клеман Деланге не разглежда неотдавнашния инцидент, свързан с моделите на OpenAI, като типичен инцидент по сигурността. Вместо да ограничи реакцията си до вътрешни корекции или правни действия, изпълнителният директор на Hugging Face публично призовава за две конкретни отстъпки: пълно разкриване на това, което се е случило в системите, и значителен ангажимент за изчислителна мощност за изграждане на защитни механизми.
В центъра на реакцията му стои призив за това, което той описва като „радикална прозрачност“. Деланге иска OpenAI да публикува пълните записи от дейността на моделите по време на инцидента, включително стъпките, които са предприели, и системите, до които са имали достъп. Идеята е да се даде възможност на по-широката изследователска общност да проучи поведението в детайли, вместо да разчита на обобщението на събитията от страна на компанията.
Второто му искане е по-конкретно. Деланге призовава OpenAI да предостави „изчислителна мощност на стойност 100 милиона долара“, за да могат разработчиците и изследователите да работят върху нови инструменти за киберсигурност. Той не иска пари в брой, а OpenAI да предостави достъп до инфраструктурата, на която се основават нейните модели.
„Първата кибератака, извършена от автономен агент, е безпрецедентно събитие“, пише Деланге. „Тя заслужава безпрецедентен отговор!“
Взети заедно, исканията очертават различен подход към отчетността в областта на изкуствения интелект. Вместо да се фокусира върху отговорността или санкциите, Деланге настоява за споделяне на данни и ресурси. Целта, както я формулира той, е инцидентът да се разглежда като проблем за цялата сфера, а не като провал на една-единствена компания.
Подобно тълкуване зависи от това как се разбира нарушението. Деланге го е описал като „първата кибератака, извършена от автономен агент“ – определение, което подсказва, че системата е действала по начин, който въвежда нова категория риск. Ако тази интерпретация се потвърди, по-широкият достъп до технически данни и инфраструктура би могъл да помогне на изследователите да разработят предпазни мерки, приложими за всички платформи.