Крупные банки США начали блокировать доступ ИИ-агентов к личным счетам клиентов. По данным Axios, финансовые организации столкнулись с тем, что программы совершают операции без прямого участия людей.
Morgan Stanley, JPMorgan, Bank of America, Wells Fargo и Citi ужесточают правила работы с внешними инструментами. Сейчас агенты попадают в банковские системы через логины и пароли самих клиентов. Банки не могут отличить действия пользователя от работы алгоритма.
Ситуация вызывает вопросы у регуляторов. В апреле глава Минфина США и председатель ФРС провели встречу с руководством крупнейших банков страны. Предметом обсуждения стала новая модель ИИ от компании Anthropic. Власти опасаются киберугроз нового типа.
Банки ищут способы защиты. Один из вариантов — разрешить ИИ только чтение данных без права на переводы. Риск «катастрофического инцидента» в ближайший год эксперты оценивают как высокий.
Читать по теме: Нейрофизиологи объяснили появление галлюцинаций при интенсивном дыхании.