OpenAI, Anthropic и Google DeepMind продължават преговорите по въпросите, свързани с безопасността на изкуствения интелект. Това съобщи пред медиите Крис Лейн, ръководител на отдела за глобална политика в OpenAI, като отбеляза, че компаниите координират усилията си за намаляване на катастрофалните рискове, свързани с разработването на авангардни AI модели.
Инициативата е отговор на есето на главния изпълнителен директор на Anthropic Дарио Амодей, публикувано миналата събота. В текста той призова индустрията да забави темпото на разработката на големи езикови модели и да обедини усилията си, за да предотврати непредвидими последствия. Идеята беше подкрепена от Сам Алтман от OpenAI, Демис Хасабис от Google и Илън Мъск. Според TechCrunch Алтман също заяви готовност да въведе независими одитори за мониторинг на сигурността в рамките на своята компания.
Въпреки опасенията на експертите относно възможно нарушение на антимонополното законодателство при координиране на действията на конкурентите, участниците в преговорите считат тези рискове за преувеличени. Амодей предложи да се получи специално разрешение от правителството за подобни обсъждания, но Лейн увери, че компаниите не се нуждаят от разрешения за диалог относно стандартите за безопасност.
По-рано медиите съобщиха за плановете на OpenAI, Anthropic и Google DeepMind да създадат отраслови орган за стандартизация без държавно участие, а Хасабис още през юли призова САЩ да създадат регулаторен орган с правомощия да проверява най-мощните модели и да координира спирането на разработките в случай на установяване на заплахи. Настоящата администрация обаче, начело с президента Доналд Тръмп, отхвърли тези инициативи, като счете разговорите за екзистенциалните рискове за опит да се забави напредъкът и да се отстъпи лидерството на Китай.
По-рано Лейн заяви, че OpenAI подкрепя разпоредбите на законопроекта FRONTIER Act, който въвежда федерален надзор в САЩ върху разработването и внедряването на авангардни AI модели и задължава най-големите лаборатории за изкуствен интелект да допускат независими организации за проверка на безопасността на технологията.