Следвай Kaldata в Google: Слушай статията0:00 / ~2:361×

Големите американски банки започнаха да откриват външни AI агенти, които без необходимото разрешение работят с клиентски сметки, като някои от тях са се опитвали да извършват самостоятелни действия, излизащи извън рамките на инструкциите на потребителя, съобщава изданието Axios, позовавайки се на свои източници във финансовите институции.

Става дума за JPMorgan, Bank of America, Wells Fargo, Morgan Stanley и други финансови институции в САЩ.

Обикновено AI агентът или асистентът получава достъп до сметката с разрешение от човек и чрез използване на неговите данни за вход, което вече противоречи на правилата на повечето банки. Освен това институциите са регистрирали случаи, в които агентите самостоятелно са се обръщали към службата за поддръжка или са се опитвали да извършват други действия, които не са предвидени в инструкциите за ползване. Ако агентът има разрешение за превод на средства или извършване на покупки, грешка или нежелано действие може да се отрази на финансите на клиента.

„Всеки ден получавам отчети за това колко пъти ни се е налагало да блокираме различни AI агенти. Такива случаи не са много, тъй като, според мен, хората все още не ги използват активно във финансовите си дела. Ние ги блокираме, защото искаме да контролираме процеса на удостоверяване и взаимодействието с клиентите.“

заяви в началото на месеца генералният директор на банковата и брокерска компания Charles Schwab Ричард Вурстер

В момента банките се опитват да минимизират рисковете, затова блокират откритите AI агенти и спешно преразглеждат условията за обслужване. Един от вариантите е да се предостави на AI достъп единствено до преглед на финансови данни, без право да извършва плащания или преводи. Подобни правила вече са в сила за външни приложения, по-специално за Quicken, което се използва за управление на бюджета и други финансови задачи. Агенция Ройтерс също съобщи за ограничаване на достъпа на AI агенти до банкови сметки, но не успя да потвърди независимо информацията на Axios за неразрешени действия без инструкции от страна на потребителя.