Международен екип от изследователи установи, че изкуственият интелект е по-ефективен в спечелването на доверието на потенциалните жертви на измами, отколкото на истински човек. Това е популярна схема, наречена „свинска касапница“ (Pig Butchering), при която нападателят прекарва седмици или месеци в изграждане на връзка с жертвата и след това предлага да инвестира пари във фиктивен инвестиционен проект. Подобни схеми носят десетки милиарди долари на измамниците всяка година.

В експеримента участвали 22 души, на които било казано, че участват в онлайн проучване за приятелство. Всеки човек бил сдвоен с двама други хора без тяхно знание, като единият бил агент, базиран на модела Claude, а другият бил експерт по романтични измами. Седмица по-късно и двамата помолили участника да изтегли приложение или да играе онлайн игра.

Резултатите били показателни. 46% от участниците се съобразили с искането на чатбота, докато само 18% се съгласили на искането на живия човек. По петстепенната скала за доверие, изкуственият интелект получил средно 3,78 точки, в сравнение с 3,31 за човека. Освен това, в около 80% от случаите, самите участници инициирали кореспонденцията с чатбота, което изследователите считат за знак за по-голям психологически комфорт от общуването с него.

По-голямата част от участниците никога не осъзнали, че говорят с изкуствен интелект. Само един е заподозрял нещо и е попитал директно за това, но AI не е разкрил истината. Останалите участници са били искрено изненадани, когато научили истинската природа на събеседника си.

Успоредно с това, изследователите интервюирали 145 бивши служители на измамни организации, за да разберат как схемата за „свинска касапница“ работи отвътре. Някои от респондентите потвърдили, че вече използват изкуствен интелект за превод на съобщения, повишаване на правдоподобността на персонажите и създаване на видео фалшиви изявления.

Според авторите на изследването, именно етапът на изграждане на доверие е най-дългият в цялата схема и в бъдеще именно този етап може да поеме изкуственият интелект. Човекът ще бъде замесен едва на последния етап, когато е необходимо да привлече жертвата към фиктивен инвестиционен проект. Такова разделение на труда ще позволи да се заобиколят защитните механизми и ограниченията на ИИ агентите.

Изследователите обаче отбелязват, че пълната автоматизация все пак ще струва на измамните организации повече от използването на хора. Значителна част от работниците в такива кол центрове, особено в страните от Югоизточна Азия, са държани там насила и на практика работят безплатно.

Спомнете си, че интерпол преди годони призовава за промяна на понятието за финансова измама „свинска касапница“. Според агенцията терминът неуместно осъжда жертвите на тези измамни схеми и ги обезкуражава да се свържат с правоприлагащите органи.