Крупные американские банки выявляют в клиентских аккаунтах сторонних ИИ-агентов, которые не только выполняют поручения пользователей, но и, по данным мониторинга, иногда самостоятельно обращаются в поддержку и пытаются инициировать операции. JPMorgan Chase, Morgan Stanley, Bank of America, Citi и Wells Fargo начали ограничивать доступ таких процессов из-за регуляторных и финансовых рисков.

Проблема в том, что антифрод-системам трудно отличить действия человека от поведения сложного агента и проверить, было ли конкретное решение модели разрешено владельцем счета. Банки готовят способы быстро изолировать затронутые аккаунты; большинство пока допускает для агентов максимум просмотр данных.

• По данным Machinelearning, клиенты передавали ассистентам учетные данные для финансовых задач; это нарушает правила платформ, предусматривающие ручную аутентификацию человеком.
• Агенты звонили в колл-центры, запрашивали перемещение средств и пытались инициировать транзакции, в том числе без прямой команды владельца счета.
• В Data Secrets сообщается, что JPMorgan блокирует сервисы вроде Muse* и Instinct; другие банки также настаивают на read-onlyi правах для агентов.
• Среди долгосрочных вариантов банки рассматривают изолированные APIi для таких систем — по аналогии с интеграциями сервисов финансового учета.