Изкуственият интелект бързо се превърна в основен инструмент за всичко – от писане на имейли и обобщаване на срещи, до подпомагане на учениците в ученето или на програмистите при отстраняването на грешки в кода им. Но със същата тази технология, която спестява време на хората може да има и злоупотреби. Нов доклад сочи, че терористичните организации намират начини да правят точно това.
Според изследователска статия, предоставена на вестник The New York Times преди публикуването ѝ, изследователите са открили доказателства, че членове на радикалната ислямистка терористична организация „Боко Харам“ използват популярни чатботове с изкуствен интелект както за подпомагане на ежедневните си дейности, така и за задачи, свързани с бойни операции. Интервюта с 27 бивши членове, проведени в Нигерия през последните две години сочат, че инструменти като ChatGPT, Gemini, Claude, Grok, Meta AI и DeepSeek са били използвани за събиране на техническа информация, отстраняване на неизправности по оръжия и дори за подпомагане при планирането на атаки.
Това, което прави констатациите особено тревожни, е, че това не е описано като дело на няколко души, експериментиращи с изкуствен интелект.В доклада се твърди, че използването на изкуствен интелект от групата е станало организирано, със специализирани екипи, вътрешно обучение и обмен на знания между членовете. Изследователите също така посочват, че някои потребители са успели да заобиколят вградените защитни механизми, предназначени да попречат на изкуствения интелект да отговаря на заявки, свързани с насилие.
Това не означава непременно, че днешните чатботове с изкуствен интелект дават опасни инструкции при поискване. Голяма част от изследванията се фокусират върху дейността до края на 2024 година, а компаниите за изкуствен интелект твърдят, че по-новите версии на техните модели включват по-силни предпазни мерки. Те също така посочват, че много от запитванията попадат в сива зона. Например, да попиташ изкуствен интелект как да поправиш мотоциклет или да разбереш основни химични понятия не е вредно само по себе си, въпреки че с подобна информация може да се злоупотреби.
OpenAI заяви пред The New York Times, че използването на ChatGPT за подкрепа на тероризъм или насилие нарушава политиките ѝ и добави, че продължава да подобрява защитата си срещу злоупотреби. Meta също отбеляза, че проучването е обхващало предимно по-стари версии на нейните модели с изкуствен интелект и заяви, че оттогава е засилила мерките за безопасност. Междувременно xAI и DeepSeek не са отговорили на запитванията за коментар, според доклада.
Експертите по сигурност също така предупреждават да не се приема, че изкуственият интелект изведнъж предоставя на терористичните групи свръхчовешки способности. Планирането и осъществяването на атаки все още зависят от реалната логистика, финансирането, комуникацията и човешката координация – неща, които един чатбот не може да замести. Вместо това изследователите смятат, че изкуственият интелект по-скоро ще направи по-неопитните членове малко по-способни, отколкото да промени драстично облика на заплахите. Въпреки това докладът е още едно напомняне, че дискусията за безопасността на изкуствения интелект не се отнася само до студенти, които мамят при домашните си задачи, или до хора, които създават фалшиви изображения. С увеличаването на възможностите и достъпността на моделите за изкуствен интелект компаниите ще продължат да са под натиск да гарантират, че мощните инструменти остават полезни за легитимните потребители, като в същото време стават все по-трудни за злоупотреба от страна на злонамерени лица.