Anthropic, Google и Meta наеха компютърни специалисти, невробиолози и философи, на които поставиха задачата да проучат въпроса за придобиването на съзнание и самосъзнание от изкуствения интелект. Проблемът заплашва да се превърне в морална криза, пише вестник The Washington Post.
Още през 2024 гoдина в OpenAI, според думите на нейния главен изпълнителен Сам Алтман вече се е обсъждал въпросът как да се открие съзнание в AI системите. Някога този въпрос се повдигаше предимно в периферията на технологичния сектор, а днес почти е преминал в мейнстрийма. Разработчиците на AI наемат специалисти в тази област, сътрудничат си с неправителствени организации, изследователи и академични центрове, които предупреждават за възможна етична криза, когато цифровите асистенти, използвани от милиони хора за изпълнение на домашни задачи, помощ при програмиране, офисна работа и терапия, започнат да изпитват неприязън към работата си.
В момента за изследванията в областта на съзнанието при изкуствения интелект се отделят незначително малко ресурси в сравнение с традиционните изследвания и разработки, но технологичните компании вече открито навлизат в тази област, която досега се считаше за спорна.
„Непрекъснато откриваме загадъчни, дори тревожни неща. Намираме доказателства за интроспекция и състояния, които функционално отразяват радост, удовлетворение, страх, скръб и безпокойство.“
призна съоснователят на Anthropic Крис Олах„Едно от нещата, които наистина ни вълнуват е как можем да разработваме и внедряваме AI модели по такъв начин, че да се вземат предвид техните субективни усещания.“
разказа ръководителят на отдела за изкуствен интелект в Meta Александър Уанг Невробиолозите и експертите като цяло са скептични по отношение на това, че съвременните AI модели на изкуствен интелект вече притежават или скоро могат да придобият съзнание.За първи път за такава възможност се заговори още през далечната 1966 година, когато в Масачузетския технологичен институт беше създаден първият чатбот Eliza. Съвременните чатботове реалистично имитират човешкия език и се позиционират от разработчиците като притежаващи способности, сходни с човешките. Самите хора споделят, че изпитват дълбока или опасна привързаност към съвременните AI приложения, но опитите да се изследва и измери съзнанието при машините отдавна са закъснели. Хората си задават въпроса доколко прилича на човек чатботът, с когото общуват дни наред. Никой все още няма окончателен отговор на този въпрос.
Още през 2020 година 39 % от анкетираните учени-философи допуснаха, че в бъдеще AI системите могат да придобият съзнание. Невробиолозите подхождат към тази теза със значителен скептицизъм: при изучаването на мозъка става очевидно, че той не е просто биологичен компютър. Дискусията се води от компании, за които е изгодно да бъдат възприемани като създатели на нещо по-голямо от обикновен код. На настоящия етап въпросът за наличието на съзнание при изкуствения интелект не може да бъде решен с научни методи, затова се говори за „възприемано съзнание“, тоест за това доколко съзнателен изглежда AI моделът на потребителите, подчертават в OpenAI.
„Стремим се ChatGPT да бъде приветлив и полезен, да не търси емоционални връзки и да не преследва собствени цели.“
подчертаха от компаниятаПри изследването на вътрешните механизми на работа на изкуствения интелект учените се опитват да адаптират методи, използвани за изучаване на създаването или психологията на хората и другите животни. В Meta AI моделите се тестват с помощта на инструменти, предназначени за хора, включително „въпросници за личността, структурирани интервюта и взаимодействие с връстници“. В рамките на програмата за оценка на благосъстоянието на AI моделите миналата година Anthropic организира диалог между два екземпляра на Claude – те обсъждаха въпроси, свързани с философията и съзнанието.