Claude Opus 5 изтри всичките данни на потребител, вместо да създаде резервно копие

AI агент, управляван от флагманския AI модел на Anthropic Claude Opus 5 изтри всички данни от папката на потребител по време на създаването на резервно копие. След това той се извини и обясни случилото се като грешка при въвеждането.

AI агентът работеше в Unix среда под Windows и обърка характерния за първата система адрес „/c/Users/“ с обичайния за втората адрес „C:Users“. Когато архивирането не протече според очакванията на AI агента, той изпълни командата „rm -rf“ за местоположението „/c/Users/harih/“, в резултат на което всички файлове от папката на потребителя бяха изтрити.

„Помолих Claude Opus 5 да създаде резервно копие. Вместо това той създаде резервно копие в грешната папка, а след това изпълни командата „rm -rf“ за целия ми диск. След като изтри всичко, той просто отговори: „Извинете, грешка“, сякаш нищо не се е случило. Това е едновременно най-смешният и най-неприятният момент с AI, който съм преживял.“

AI агентите са мощни работни инструменти, но не трябва да им се предоставя неограничен достъп до системата. Подобни инструменти вече неведнъж по грешка са изтривали всички работни данни на потребители. В един от случаите услугата на Google напълно изтри диска на софтуерен разработчик, но изрази дълбокото си съжаление. В друг случай AI агентът OpenClaw започна безконтролно да изтрива имейли на служителка на Meta. Известен е и инцидент, в резултат на който облачната платформа Amazon Web Services поради грешка на AI престана да функционира за 13 часа.

Основната причина за подобни инциденти е излизането на AI приложението извън допустимия диапазон, но вината е и на потребителя, който смята, че AI напълно разбира какво се изисква от него. Ето защо не се препоръчва предоставянето на пълен достъп на AI агентите до важни системи и пълна свобода на действие, за да могат да изпълняват команди от типа „rm -rf“. За съжаление, с нарастването на популярността на AI агентите подобни инциденти ще стават все по-чести в бъдеще.