В продължение на десетилетия Силициевата долина подхранва идеята, че свръхинтелигентният изкуствен интелект в крайна сметка ще надмине хората. Някои технологични оптимисти смятат, че човечеството може да отстъпи място на машините.
Gizmodo пише за това.
Един от ранните поддръжници на тази концепция е американският изследовател в областта на изкуствения интелект и роботиката Ханс Моравец. Още през 1987 г. той пише, че машините евентуално биха могли да станат по-сложни от хората и че човешкият интелект може да бъде прехвърлен в софтуерен код.
С течение на времето подобни възгледи станаха част от трансхуманизма. Тази школа на мисълта твърди, че технологиите могат да помогнат на хората да преодолеят биологичните ограничения и по-специално стареенето и смъртта. Някои поддръжници на трансхуманизма също така предвиждат появата на постбиологични същества, които ще заменят хората.
Тази идея придоби нов резонанс на фона на дебатите относно рисковете от развитието на изкуствения интелект. Някои технологични ръководители предупреждават, че свръхинтелигентният изкуствен интелект може потенциално да представлява заплаха за човечеството, но същевременно се застъпват за неговото продължаващо развитие.
Едно от обясненията се крие в конкуренцията между държавите. По-специално, главният изпълнителен директор на Anthropic, Дарио Амодей, призова за забавяне на разработването на усъвършенствани ИИ модели, но същевременно заяви, че лидерството на Китай в тази област може да представлява сериозна заплаха за САЩ и света.
Технологичните оптимисти, от своя страна, често описват развитието на изкуствения интелект като процес, който е трудно да се спре. Те посочват бързия растеж на изчислителната мощност и потенциалната технологична сингулярност като момент, в който изкуственият интелект надминава човешките възможности.
Инвеститорът Питър Тийл многократно е говорил за бъдеще, в което хората ще могат да променят телата и умовете си чрез технологиите. Друг виден инвеститор, Марк Андреесен, в своя „Манифест на технооптимиста“ критикува идеята за екзистенциален риск и принципа на предпазливостта при разработването на нови технологии.
Илон Мъск също така се застъпва за разработването на технологии, които според него ще осигурят дългосрочното оцеляване на човечеството. По-конкретно, неговата компания SpaceX има за цел да трансформира човечеството в междупланетен вид, за да намали риска от изчезване поради мащабни природни бедствия на Земята.
В същото време критиците на тази концепция посочват противоречие: някои поддръжници на разработването на свръхмощен изкуствен интелект говорят за ползите му за човечеството, но същевременно признават, че самите хора може в крайна сметка да станат ненужни.
Моравец нарече бъдещите машини „потомци“ на човечеството и предложи хората да им предадат контрол, когато загубят способността си да допринасят за по-нататъшното развитие. Философът Дерек Шилер дори обмисля възможността за създаване на изкуствени същества, които да заменят хората, в своята статия от 2017 г.
Подобни възгледи не означават, че изчезването на човечеството е установен или неизбежен факт. Това е една от бъдещите визии, които поддръжниците на трансхуманизма свързват с развитието на изкуствения интелект и други технологии.
През 2023 г. главният изпълнителен директор на OpenAI Сам Алтман също написа, че човечеството може да се превърне в своеобразен биологичен етап по пътя към дигиталния интелект или опит за сливане на биологичните и дигитални форми на живот.