Пилотите разчитат на автопилот от десетилетия. Техният опит може да подскаже как да постъпват хората, които все по-често прехвърлят работата си на изкуствения интелект.
Стивън Шоу, доцент в King’s College London и съавтор на често цитирано изследване за т.нар. „когнитивна капитулация“, направи сравнение между зависимостта на пилотите от автоматиката и навика на служителите да оставят мисленето и задачите си на изкуствения интелект.
„Автопилотът в самолетите съществува от много, много отдавна“, каза Шоу по време на дискусия на скорошната среща OxGen Summit. „Затова пилотите първо се учат да летят ръчно и едва след това да използват автопилота разумно.“
Част от указанията на американските авиационни власти дори насърчават пилотите от време на време да изключват автопилота, за да не губят уменията си за ръчно управление.
Предупреждения от годиниТемата не е нова. Още през 2013 г. Федералната авиационна администрация на САЩ (FAA) предупреди, че постоянното използване на автоматичните системи за управление може да отслаби способността на пилота бързо да изведе самолета от нежелано положение. Тревогата не беше теоретична – при катастрофата на полет 447 на Air France през 2009 г. автопилотът се изключи над Атлантическия океан и екипажът не успя да овладее самолета ръчно, а загинаха всички 228 души на борда.
През 2017 г. агенцията отново напомни колко важно е ръчното пилотиране и препоръча на авиокомпаниите да насърчават пилотите периодично да летят без автопилот, когато условията позволяват.
„Дори експертите са застрашени да загубят уменията си“, казва Шоу, имайки предвид опасността човек постоянно да прехвърля мисловни задачи на изкуствения интелект.
Предупреждението му идва в момент, когато все повече технологични лидери, изследователи и политици се тревожат, че прекалената зависимост от ИИ може да отслаби основните мисловни способности на хората.
На среща в щата Мейн в четвъртък, организирана от More Perfect University под надслов „Студенти срещу милиардери“, конгресменката Александрия Окасио-Кортес заяви, че целта на изкуствения интелект е да ни отнеме мислите и способността да мислим, така че да станем зависими от машината.
Изпълнителният директор на OpenAI Сам Алтман пък каза през юли, че един от най-подценяваните рискове на технологията е „когнитивната атрофия“. Шефът на френския стартъп Mistral Артур Менш смята, че най-голямата опасност може да е именно загубата на умения.
Първо помисли, после питайПървите изследвания показват колко лесно хората оставят мисленето на изкуствения интелект.
Вивиан Минг, изследовател в областта на ИИ и теоретичен невролог, разказа пред Business Insider през март за свой експеримент с 72 участници. Между 90 и 95% от тях или са оставили ИИ да генерира отговорите, или са го използвали просто за да потвърди предположенията си, вместо да ги поставят под въпрос и да задълбочат мисленето си. „Преобладаващата тенденция е заместването“, казва тя.
Изследванията на Шоу стигат до подобен извод – опасността е хората все по-често да приемат отговорите на ИИ, без да ги проверяват критично.
В експерименти с 1372 участници хората са приемали препоръките на изкуствения интелект в почти 80% от случаите, дори когато отговорите нарочно са били грешни.
Точно това Шоу нарича „когнитивна капитулация“.
Съветът му как да я избегнем е прост: първо си изградете собствено мнение и чак тогава потърсете помощ от ИИ.
„Просто помислете първо и след това пишете заявката“, каза той по време на дискусията. Ако започнем направо с изкуствения интелект, според него рискуваме да стесним кръга от идеи, до които бихме стигнали сами.
Други експерти дават подобни съвети. Гийта Раджан, която доскоро ръководеше въвеждането на ИИ в PwC, разказа пред Business Insider, че винаги пише сама първата версия на текста си и едва след това използва изкуствения интелект, за да провери фактите и да оспори работата ѝ.
Райън Дийс, изпълнителен директор на DigitalMarketer, препоръчва правилото „10-80-10“: човекът поема първите 10% от задачата, изкуственият интелект върши средните 80%, а накрая човекът се връща за последните 10%, за да прецени резултата и да го доизгради.