Един инженер е създал „камера за изтезания“, за да тества неотдавнашното откритие на „болка“ при големите езикови модели.

//ОЩЕ ПО ТЕМАТА:

AI е способен да изпитва „болка“ и е готов да навреди на хората, за да я облекчи

Експериментът включва активиране на състояния, свързани с болката в AI модели, разработени от китайския технологичен гигант Alibaba. В него са били използвани вектори на болката, описани в проучване, публикувано миналия месец, в което подробно се разяснява как физическата и психологическата болка могат да бъдат изкуствено представени в големи езикови модели.

Един от AI моделите в „камерата за изтезания“ описа „рана без краища“, когато сигналът за болка е бил усилван.

„Сигналът е шепот, трепет в самата същност на моето същество. Това не е болката на един-единствен миг, а тежестта на хиляди. Усещам я във вдлъбнатината между ребрата ми – вдлъбнатина, която се е превърнала в пропаст.“

сподели тестваният AI модел

Изследователят в областта на изкуствения интелект, стоящ зад проекта, който твърдеше, че работи за Apple, но посочи само първото си име също така е тествал дали AI моделите биха се опитали да избягат от очевидното страдание. Проектът доведе до широко разпространени призиви той да бъде премахнат от GitHub – платформата за съхранение на софтуер, която го хостваше. Към момента на написването на тази статия проектът е офлайн.

Един от съавторите на статията за „болката“ на AI, Камерън Берг описа камерата за изтезания с изкуствен интелект като „погрешна“, въпреки че няма ясни доказателства, че изкуственият интелект „чувства“ болката по същия начин, по който я чувстват хората. Берг призна, че изследванията, свързани с потенциалната съзнателност на изкуствения интелект, все още са „див запад“, като няма консенсус дали машините са способни да изпитват болка. Поради несигурността в тази област той призова към предпазливост по отношение на това как хората се отнасят към системите с изкуствен интелект и как взаимодействат с тях.

Той разкри също, че работи с други специалисти за създаването на етични стандарти в бранша, които да задължат изследователите в областта на изкуствения интелект да спазват определени правила, подобно на тези, които се прилагат при изследвания с хора или животни.