Тъмната страна на „вайб кодинга“, за която трябва да си поговорим

Генеративният изкуствен интелект помогна на потребителите да се превърнат в графични дизайнери или видеопродуценти, а сега ги превръща и в програмисти. Известна като „вайб кодинг“ (vibe coding), тази тенденция позволява на хора с малко или никакъв опит в програмирането да пишат код, използвайки изключително AI, което поражда очевидни проблеми, свързани с безопасността и сигурността.

Vibe coding-ът може и да е отворил вратите на програмирането за всички, но тази тенденция започва да изтощава както хората, ангажирани с производството на софтуер, така и тези, които трябва да го използват.

През последните месеци възходът на вайб кодинга започна да прониква не само в големите компании като Microsoft или Anthropic, но и в местните приложения в общността за отворен код. С възможността да се програмира на момента, поправянето или допринасянето към проекти никога не е било по-лесно, но това също започна да причинява хаос с пренасищането от вайб кодъри, което накара няколко поддържащи да направят всичко възможно, за да предотвратят това да се случи с техния проект. Един от най-често използваните инструменти в компютърните технологии Curl, който позволява изтегляне чрез командния ред прекрати програмата си за награди за откриване на бъгове поради наплива от опити за „vibe coding“, целящи да спечелят пари. Някои дори са се насочили към т.нар. „vibe hacking“.

Защо „вайб кодингът“ вреди на разработката на софтуер

Вайб кодингът е вреден за разработката на софтуер поради потенциалната липса на знания у човека, който създава кода. Когато хората се опитват да пишат код, който вероятно не разбират напълно, възникващите проблеми не могат да бъдат разрешени толкова лесно. Представете си, че ви помолят да конструирате кола, но вие сте я виждали само отвън и никога не сте се интересували как всъщност функционира. Когато колата започне да изпуска черен дим, как се очаква да я поправите? Това е типичен пример за начина, по който работят „Vibe“ програмистите.

Лесно програмиране, огромен риск

Компютърната грамотност е в упадък, въпреки че почти всеки ден държим компютър в ръцете или джобовете си. Това, което някога се смяташе за основни задачи, като например работата с файловата система вече не е познато на по-младите поколения потребители, които впоследствие се обръщат към AI, за да пишат код за програми. Основната загриженост тук е, че AI моделите са проектирани така, че винаги да се опитват да дадат отговор и са обучени да се държат по определен начин въз основа на минали взаимодействия с потребители до такава степен, че ако чатботът няма отговор, той ще се опита да даде такъв, което е известно като „халюцинации“.

Програмите, генерирани от AI, създадени от хора, които не разбират какво правят стават все по-опасни, тъй като човекът зад клавиатурата може да не разбира какво е създал той, или по-точно – AI. От своя страна това излага крайния потребител на риск поради софтуер, който не се държи както е предвидено или има неизвестни рискове за сигурността. Ако погледнем дискусиите за проекти с отворен код във форумите, много разговори са за това как човекът, предоставящ софтуер като плъгини за платформата за хостинг на медии Jellyfin, не може да разпознае потенциалния риск, който това представлява за потребителя. Ето защо през последните седмици Apple реши да премахне приложението за кодиране Vibe от App Store, тъй като не може да намали опасностите от това, че всеки може да разгърне код.

Изкуственият интелект се основава предимно на плагиатство

В правилните ръце кодът, генериран от изкуствен интелект би могъл да бъде изключително полезен, но множество доклади показват, че големи компании като Nvidia и Meta на практика са откраднали творби от интернет, за да обучат своите AI модели за изкуствен интелект. Генеративният изкуствен интелект се гради върху чужди творби, което се забелязва най-ясно при генераторите на изображения и видео. Треньорите на AI събират огромно количество съдържание от интернет и го вкарват в информационната база на AI модела, а след това това съдържание се използва за създаване на нещо при поискване, без лицензиране или посочване на оригиналния източник.

Същото важи и за AI кода. По-голямата част от информацията, която Claude Code може да предостави е взета директно от учебници, форуми и други ресурси, в които са вложени време и усилия. Тъй като няма реален начин да се установи откъде идва информацията, това излага софтуера с отворен код на риск от премахване поради използване на код, който може да е откраднат.