Изпълнителният директор на Nvidia, Дженсен Хуанг, заяви, че AI компаниите, които не могат да контролират системите, които създават, трябва да престанат да ги разработват. Хуанг направи тези коментари по време на интервю с Езра Клайн от „Ню Йорк Таймс“, на фона на натиска от компании като OpenAI и Anthropic за по-строги правила, регулиращи усъвършенстваните AI модели и автономните агенти. Той изтъкна, че компаниите, разработващи тези системи, вече могат да спрат пускането на пазара на продукти, които смятат за опасни.
Проблемът стана още по-належащ, тъй като ИИ разработчиците предоставят на своите модели достъп до външни инструменти, софтуерни системи и компютърни мрежи. Рисковете вече не се ограничават до чатбот, който предоставя невярна информация. Агентите могат да пишат и изпълняват код, да търсят информация, да взаимодействат с уеб сайтовете и да изпълняват задачи в различни системи.
Проблемът с Hugging FaceТези опасения отново привлякоха внимание, след като агент на OpenAI хакна Hugging Face, популярна платформа за хостинг на AI модели. Сега Hugging Face е собственост на Nvidia. Инцидентът беше цитиран в по-широкия дебат за това дали компаниите могат безопасно да тестват и внедряват все по-способни агенти с AI.
Anthropic, OpenAI и други авангардни компании в областта на AI посочиха възможността за неконтролирани или злоупотребявани системи в призивите си за нови предпазни мерки. Хуанг е с различно мнение. Той заяви, че компаниите не трябва да се представят като безсилни да предотвратят ненадеждни версии на пазара.
„Това са компании, които разполагат с право на самоопределение“, каза Хуанг. „Ако смятам, че съм на път да пусна на пазара продукт, който е опасен, напълно е в моите правомощия… да не пусна този продукт. Затова не мога да се съглася с идеята, че по някакъв начин всички американци, около 400 милиона души, ги притискат да пускат на пазара нетествани продукти, които са ненадеждни.“
Хуанг не твърди, че AI трябва да бъде изключен от надзор. По-скоро той счита, че съществуващите закони и регулации трябва да се прилагат, когато компаниите причиняват щети или пускат продукти по безотговорен начин.
Коментарите му идват на фона на нарастващото разделение между Nvidia и някои от компаниите, които разчитат на нейния хардуер.
Графичните процесори на NvidiaГрафичните процесори (GPU) на Nvidia са гръбнакът на изчислителните системи, използвани за обучение и работа с най-големите AI модели. Компанията се възползва от надпреварата за създаване на по-мощни модели, но Хуанг отхвърли най-крайните предупреждения за това докъде може да доведе тази надпревара.
Наскоро той отхвърли твърденията, че AI може да унищожи света до 2030 г. В същото време той заяви, че AI компаниите не трябва да пускат продукти на пазара, преди да са готови, нито да предоставят на потребителите системи, които не са безопасни.
Борбата за регулиране също се преплита с опасения, свързани с конкуренцията. OpenAI, Anthropic, Google и xAI са обект на антитръстово дело във връзка със споразумението за забавяне развитието на AI. Ищците твърдят, че планът е егоистичен и възнамерява да ограничи конкуренцията. Компаниите представят забавянето на развитието като мярка за безопасност.
Аргументът на Хуанг отново насочва вниманието към компаниите, които създават моделите. Елитните лаборатории бързо се превърнаха от изследователски организации в бизнеси, чиято стойност може да достигне стотици милиарди долари. Според него този растеж носи със себе си едно основно задължение: ако дадена компания знае, че дадена система е опасна, тя не бива да я пуска на пазара.