摩根大通應對“失控代理”，人工智能給銀行帶來新的安全挑戰

美國各大銀行希望人工智能能夠用於資金流轉、客户服務以及提高運營效率。但隨着AI 代理獲得代表用户行事的能力，摩根大通（NYSE: JPM）首席執行官傑米·戴蒙劃出了一條紅線。

“這裏有一個防禦層面，即你必須確保我們的客户不會因此受到傷害，” 戴蒙在週二摩根大通第三季度財報電話會議上表示。他警告稱，自主工具可能會催生新一類風險。

“你不希望出現 ‘失控代理’，而且這類代理可能有成千上萬個，” 他説。

令人擔憂的不僅僅是人工智能可能會犯錯。與金融賬户交互的代理可能會訪問敏感信息或發起交易。這引發了關於安全性、客户同意以及在出現問題時由誰承擔責任的問題。

戴蒙希望使用這些工具的客户意識到相關風險，包括如果數據被濫用可能涉及的 “責任轉移”。

該銀行並未完全拒絕這項技術。首席財務官傑里米·巴納姆表示，摩根大通幫助客户跨賬户管理現金的 Smart Cash 解決方案已進入早期試點階段。區別在於，是將人工智能部署於受控的客户使用場景，還是允許外部代理廣泛訪問銀行基礎設施。

相關閲讀： 查馬斯稱英偉達為 “AI 之銀行”——黃仁勳剛剛證明了這一點

花旗將人工智能視為網絡風險

花旗（NYSE: C）也在加強網絡防禦。

“人工智能令人非常興奮，但它也將強大的工具交到了不良行為者手中，” 首席執行官簡·弗雷澤在花旗的財報電話會議上表示。“如果我們要快速創新，就必須快速管理風險並維持信任，” 她補充道。

花旗表示，它正在受控的安全框架內測試其系統以應對破壞性場景，並部署先進的 AI 模型。弗雷澤還強調了與同行及行業領導者的協調，這反映出金融系統的互聯互通性使得安全失敗的影響可能超出單一機構範圍。

對投資者而言，這構成了採用 AI 的第二重成本：銀行不僅必須投資於能提高生產力和客户服務的工具，還必須投資於防止這些工具成為漏洞來源的安全保障措施。

美國銀行正在擴展其 AI 工具包

美國銀行（NYSE: BAC）在首席執行官布萊恩·莫伊尼漢的領導下，報告擁有超過 5000 萬活躍數字用户，為其部署新功能提供了龐大的客户基礎。

這三家銀行正在處理同一問題的不同方面。摩根大通限制外部代理的訪問權限，花旗強調網絡韌性，而美國銀行則將人工智能融入其更廣泛的數字銀行戰略中。

對投資者來説，接下來的考驗在於銀行能否在保持支撐其業務的安全性和信任度的同時，將人工智能轉化為可衡量的效率提升和更好的客户體驗。在銀行業，這項技術的價值可能既取決於它能完成什麼，也取決於它能被阻止做什麼。

相關閲讀： 獨家：穩定幣或削弱銀行存款優勢，泰達聯合創始人發出警告

圖片來自 Shutterstock