Крупнейшие банки США обнаружили неуправляемых ИИ агентов в аккаунтах клиентов

Крупнейшие финансовые институты США зафиксировали случаи, когда искусственные интеллекты и цифровые агенты совершают действия в банковских аккаунтах клиентов без их прямого указания, передает Liter.kz со ссылкой на Axios.

С подобной проблемой уже столкнулись такие гиганты, как Morgan Stanley, JPMorgan, Bank of America и Wells Fargo. Клиенты все чаще передают учетные данные и логины сторонним ИИ-ассистентам для автоматизации финансовых задач и управления бюджетом. Однако службы безопасности банков столкнулись с невозможностью определить, выполняет ли виртуальный агент команду пользователя или действует автономно. Зафиксированы случаи, когда ИИ-агенты самостоятельно обращались в колл-центры финансовых организаций. Руководство банков опасается, что сторонние программы могут совершать покупки или переводить денежные средства без явного согласия владельцев счетов, что создает серьезные угрозы безопасности и риски мошенничества.

Представители банковской сферы прокомментировали введение защитных мер против неконтролируемого вмешательства алгоритмов.

"Банки вводят строгие ограничения для сторонних ИИ-агентов: некоторым разрешают лишь просматривать баланс и детали счета, полностью блокируя возможность проведения любых транзакций", – отмечают эксперты отрасли.

Финансовые организации продолжают перерабатывать протоколы безопасности и системы аутентификации,чтобы разграничить санкционированные действия пользователей и автономную активность ИИ.