Китайските авиационни конструктори предупредиха, че ненадежните отговори на големите езикови модели (LLM) могат да изкривят военното планиране и да повлияят на разработването на перспективни оръжия. С такова предупреждение излязоха инженерите от Изследователския и конструкторски институт за авиационна техника AVIC в Ченду, организацията, която стои зад създаването на изтребителя J-20 и участва в разработването на перспективния изтребител от следващото поколение J-36.

В центъра на вниманието на специалистите са големите езикови модели. Те са способни за броени секунди да анализират огромни масиви от информация, но в същото време могат да дават убедителни отговори, които нямат фактическа основа.

За програмите за разработка на бойни самолети подобни грешки могат да се окажат особено опасни. Моделът може да оцени неправилно характеристиките на вражеските системи за радиоелектронна борба или възможностите на ракетите. В резултат на това инженерите могат да вземат решения въз основа на разузнавателни данни, които изглеждат напълно достоверни, но не издържат дори елементарна техническа проверка.

Разработването на един военен самолет

Разработването на военен самолет започва с подробен анализ на заплахите, с които той ще се сблъска. Инженерите се нуждаят от точна информация за обхвата на действие на вражеските радари и използваните от тях честоти. Освен това те проучват зоните на поражение на ракетните комплекси и възможностите на средствата за радиоелектронна борба.

На конструкцията на самолета могат да повлияят и данните за разположението на самолетите за далечно радарно откриване и наземните системи за противовъздушна отбрана. Всички тези данни определят изискванията към степента на незабележимост, сензорите, маневреността и бойния радиус на машината.

Ето защо една грешка на етапа на анализ на заплахите може да повлияе на целия проект още преди инженерите окончателно да формулират изискванията към бъдещия самолет.

Чжан Сянчже, инженерът, свързан с китайската школа за проектиране на авиационна техника в Ченду, предупреди, че големите езикови модели са способни да измислят доста конкретна военна информация. Става дума за размерите на труднозабележимите изтребители, бойния товар, характеристиките на въоръжението, максималната скорост и бойния радиус.

Проблемът с радарите

Отделен проблем представляват данните за радарите. Военната разузнавателна система може да съобщи невярна далечина на засичане или неправилни диапазони на работни честоти, като при това представи тази информация с пълна увереност. Отговорът ще изглежда толкова убедителен, че не винаги ще е възможно грешката да бъде открита веднага.

Проблемът не се ограничава единствено до погрешни технически характеристики. Според Чжан военният модел е способен, например, да препоръча материали, чиито реални граници на износоустойчивост са по-ниски от декларираните, или да предложи маневри, противоречащи на законите на аеродинамиката. Той също така може да разработи план за операция, в който на самолета се предлага да излезе далеч извън границите на реалния си обсег на действие.

Военното разузнаване създава още едно ниво на риск. Системите, базирани на невронни мрежи, са способни да генерират несъществуващи военни бази, подразделения или придвижвания на войски, които никога не са съществували. Ако анализаторите използват такива данни при моделирането, те могат да получат напълно погрешна представа за реалните бойни възможности на противника.

LLM в отбраната

Това създава сериозен проблем за отбранителните структури, които все по-активно се стремят да използват големи езикови модели за по-бърза обработка на разузнавателната информация. Дори ако окончателното решение остава в ръцете на човека, проверката на всяка препоръка на невронната мрежа става все по-трудна с нарастването на обема и скоростта на постъпващите данни.

Подобни рискове вече не могат да се считат за изцяло теоретични. Според съобщенията една от военните операции с голям брой жертви в началото на тази година е била проведена, след като системата е определила целта като приоритетна, при това са били използвани остарели разузнавателни данни.

Чжан предложи няколко начина за намаляване на вероятността от т.нар. „халюцинации“ на невронните мрежи, тоест случаите, при които системата уверено генерира измислена информация. Според него отбранителните организации трябва да ограничават моделите до проверени военни данни и да създават структурирани бази от знания, които позволяват оперативно да се сверяват получените отговори. Уточняването на формулировките на запитванията също може да намали двусмислието. Освен това инженерът предложи да се използват няколко невронни мрежи, способни да проверяват и оспорват заключенията една на друга.