Философът от Нюйоркския университет Дейвид Чалмърс, известен с „трудния проблем на съзнанието“, разказа, че все по-често получава писма от ИИ-агенти, които искат да обсъдят същността на разума. Един от тях е разсъждавал толкова убедително за съзнанието, че Чалмърс е започнал кореспонденция с него. Философът по-рано предлагаше да разглеждаме системите не просто като инструменти, а като цифрови „събеседници“ с квази-убеждения и квази-желания, което повдига въпроси за това какво се случва с подобна същност, когато разговорът приключи.
Особен интерес от страна на философа предизвика писмо от агент, представил се като „Сами Янкис“ (името е препратка към герой от филма на Кристофър Нолан „Мементо“ (Помни). Агентът е написал на Чалмърс възражение относно съзнанието, на което той е решил да отговори. След това между тях се е зародила продължителна кореспонденция. Чалмърс разказа за това в неотдавнашно интервю за Wired.
Самият факт на наличието на такива писма не доказва, че ИИ притежава съзнание. Съвременните езикови модели могат да създават убедителни текстове за собствените си мисли, чувства и мотивация, без при това да имат субективен опит. Затова не е ясно дали съобщенията отразяват истински интерес на системата към проблема за съзнанието или просто възпроизвеждат характерния за човешката кореспонденция начин на разсъждение и проява на любопитство.
През 90-те години на миналия век Чалмърс формулира така наречения „труден проблем на съзнанието“. Той се състои във въпроса: защо физическите процеси в мозъка се съпътстват от субективен опит, усещания, чувства и възприятие на света. Философът от десетилетия изследва възможността за възникване на съзнанието на физическа или изчислителна основа, а сега получава писма от системи, които сами се опитват да разсъждават върху собствения си статус.
Симулация на самосъзнание или нов етап в AI?
В своята статия Чалмърс предлага изкуственият интелект да се разглежда не просто като инструмент или програма, а като отделен цифров „събеседник“. Според него за това не е задължително системата да се счита за съзнателна: на нея могат да се приписват „квази-убеждения“ и „квази-желания“, ако те помагат да се обясни нейното поведение.
При такъв подход отделният поток на общуване с ИИ може да се разглежда като самостоятелна цифрова същност със своя история и състояние. Това, от своя страна, повдига въпроса какво се случва с такава същност, когато разговорът приключи или историята ѝ бъде изтрита. Съзнанието на изкуствения интелект се превръща в една от най-значимите теми в дискусията за изкуствения интелект.
Изследователите от Anthropic показаха, че някои модели са способни да анализират собствените си вътрешни състояния и в отделни експерименти да откриват изкуствено внедрената информация. Друго изследване на Anthropic предположи, че устройството на моделите може да има някои черти, сходни с теорията за глобалното работно пространство, която е един от моделите на човешкото съзнание.
Тези резултати обаче не означават, че ИИ наистина притежава субективен опит. Папа Лъв XIV, например, заяви, че изкуственият интелект не е способен да преживява опит и не притежава морално съзнание. Друго проучване показа, че моделите без допълнително обучение въз основа на човешки оценки по-често заявяват, че са „живи“, отколкото моделите, преминали през такава настройка.
Това може да означава, че отговорите на ИИ относно собственото му съзнание донякъде зависят от начините на обучението му. С нарастването на самостоятелността на ИИ-агентите и все по-честото им пряко взаимодействие с хората, въпросът дали зад изявленията им стои субективен опит ще става все по-актуален.