Възрастен фермер от източен Китай преди година започва да се възползва от съветите на изкуствения интелект. След няколко месеца взаимодействие с AI обаче, технологията дала на фермера ужасен съвет, който довел до загубата на цялата му реколта. Според данни на тайванското издание CTWANT, 67-годишният фермер първоначално не се доверявашел много на съветите на изкуствения интелект, но променил мнението си, когато те му се сторили наистина ефективни. За съжаление, последвалият погрешен съвет на AI се оказал катастрофален, тъй като доведе до загубата на 100 дека кълнове от сусам.

Въпросният фермер се обърнал към изкуствения интелект за съвет как да се бори с плевелите и вредителите при отглеждането на сусам. AI му препоръчал да използва „високоефективния флупириметалин“ и „флусулфасулфаетер“ за унищожаване на плевелите, като ги смеси с „тиаметоксазин“ и „метилова сол“. Фермерът следвал съветите на AI дословно, без да проверява информацията при истински селскостопански специалисти и дори без да сравнява отговорите с каквито и да било други онлайн източници.

Резултатът от грешката на AI не закъснял: още на следващия ден не само плевелите, но и кълновете на сусама загинали масово.

Когато фермерът попитал AI защо се е случило това, той предположил, че причината може да е „флусулфасулфаетер“. Селскостопанските експерти заявиха, че това химично вещество се използва основно срещу широколистни плевели в соевите полета. Освен това то се прилага за локално пръскане на проблемни участъци, а не на цялото поле. Фермерът твърди, че AI не го е предупредил за възможните рискове, свързани със следването на неговите отговори. Въпреки това на страницата на AI чатбота е имало напомняне, че генерираните от невронната мрежа отговори могат да бъдат неточни, поради което трябва да се проверяват.

Това е един от първите случаи, в които грешка на изкуствен интелект води до физически последствия в реалния свят. Не можем да обвиняваме изцяло фермера, че се е доверил на AI – в крайна сметка, в началото той е бил скептичен към него, което означава, че с течение на времето резултатите са били такива, че фермерът е започнал да му вярва. Но дори и резултатите на изкуствения интелект да са били надеждни напоследък, това не означава, че той е абсолютно достоверен. В крайна сметка, съвременните големи езикови модели (LLM) не са нищо друго освен механизми за прогнозиране – не може да се гарантира правилен отговор при всяко тяхно използване, особено ако са били обучени въз основа на публична база от знания, чийто набор от данни не е бил напълно филтриран за точност и достоверност.