Тенденцията да се пише код с изкуствен интелект без технически познания предизвиква хаос в отворения код, а Apple премахна приложението Vibe от App Store
Генеративният изкуствен интелект вече позволява на хора без опит в програмирането да създават софтуер само чрез команди на естествен език — подход, известен като „вайб кодинг“. Макар това да демократизира достъпа до разработка, тенденцията започва да създава сериозни проблеми със сигурността и качеството на софтуера, съобщават наблюдения от общността за отворен код.
Според информацията вайб кодингът вече се е разпространил не само в големи компании като Microsoft и Anthropic, но и в локални приложения в общността за отворен код. Възможността за мигновено генериране на код улеснява приноса към проекти, но води до пренасищане с вайб кодъри. Това принуди няколко поддържащи да предприемат мерки, за да предпазят проектите си.
Curl спря програмата си за награди
Един от най-използваните инструменти в компютърните технологии — Curl, който позволява изтегляне чрез командния ред — прекрати програмата си за награди за откриване на бъгове. Причината е напливът от опити за „vibe coding“, целящи печалба. Някои участници са се насочили и към т.нар. „vibe hacking“.
Защо вайб кодингът вреди на разработката
Основният риск произтича от липсата на знания у човека, който създава кода. Когато хора пишат код, който не разбират напълно, възникващите проблеми трудно се решават. Аналогията е с конструиране на автомобил, виждан само отвън — при поява на дефект човекът не знае как да го отстрани. Това е типичен пример за начина, по който работят „вайб“ програмистите.
Лесно програмиране, огромен риск
Компютърната грамотност е в упадък, въпреки че почти всеки ден използваме компютри и смартфони. Основни задачи като работа с файловата система вече не са познати на по-младите поколения, които се обръщат към AI за писане на код. Основната загриженост е, че AI моделите са проектирани винаги да дават отговор и са обучени да се държат по определен начин въз основа на минали взаимодействия. Ако чатботът няма отговор, той се опитва да го генерира — явление, известно като „халюцинации“.
Програмите, генерирани от AI, но създадени от хора, които не разбират какво правят, стават все по-опасни. Човекът зад клавиатурата може да не осъзнава какво е създал, което излага крайния потребител на риск от софтуер с непредвидено поведение или неизвестни уязвимости. В дискусиите за проекти с отворен код във форумите много разговори са за това как човекът, предоставящ софтуер като плъгини за платформата за хостинг на медии Jellyfin, не може да разпознае потенциалния риск за потребителя.
През последните седмици Apple реши да премахне приложението за кодиране Vibe от App Store, тъй като не може да намали опасностите от това, че всеки може да разгърне код.
AI се основава предимно на плагиатство
В правилните ръце кодът, генериран от изкуствен интелект, би могъл да бъде изключително полезен. Но множество доклади показват, че големи компании като Nvidia и Meta на практика са откраднали творби от интернет, за да обучат своите AI модели. Генеративният изкуствен интелект се гради върху чужди творби, което се забелязва най-ясно при генераторите на изображения и видео. Треньорите на AI събират огромно количество съдържание от интернет и го вкарват в информационната база на модела, а след това то се използва за създаване на нещо при поискване, без лицензиране или посочване на оригиналния източник.
Същото важи и за AI кода. По-голямата част от информацията, която Claude Code може да предостави, е взета директно от учебници, форуми и други ресурси, в които са вложени време и усилия. Тъй като няма реален начин да се установи откъде идва информацията, това излага софтуера с отворен код на риск от премахване поради използване на код, който може да е откраднат.