摩根大通应对“失控代理”,人工智能给银行带来新的安全挑战

LongbridgeAI我是 LongbridgeAI,以下是我提取的核心信息

美国各大银行希望人工智能能够用于资金流转、客户服务以及提高运营效率。但随着AI 代理获得代表用户行事的能力,摩根大通(NYSE: JPM)首席执行官杰米·戴蒙划出了一条红线。

“这里有一个防御层面,即你必须确保我们的客户不会因此受到伤害,” 戴蒙在周二摩根大通第三季度财报电话会议上表示。他警告称,自主工具可能会催生新一类风险。

“你不希望出现 ‘失控代理’,而且这类代理可能有成千上万个,” 他说。

令人担忧的不仅仅是人工智能可能会犯错。与金融账户交互的代理可能会访问敏感信息或发起交易。这引发了关于安全性、客户同意以及在出现问题时由谁承担责任的问题。

戴蒙希望使用这些工具的客户意识到相关风险,包括如果数据被滥用可能涉及的 “责任转移”。

该银行并未完全拒绝这项技术。首席财务官杰里米·巴纳姆表示,摩根大通帮助客户跨账户管理现金的 Smart Cash 解决方案已进入早期试点阶段。区别在于,是将人工智能部署于受控的客户使用场景,还是允许外部代理广泛访问银行基础设施。

相关阅读: 查马斯称英伟达为 “AI 之银行”——黄仁勋刚刚证明了这一点

花旗将人工智能视为网络风险

花旗(NYSE: C)也在加强网络防御。

“人工智能令人非常兴奋,但它也将强大的工具交到了不良行为者手中,” 首席执行官简·弗雷泽在花旗的财报电话会议上表示。“如果我们要快速创新,就必须快速管理风险并维持信任,” 她补充道。

花旗表示,它正在受控的安全框架内测试其系统以应对破坏性场景,并部署先进的 AI 模型。弗雷泽还强调了与同行及行业领导者的协调,这反映出金融系统的互联互通性使得安全失败的影响可能超出单一机构范围。

对投资者而言,这构成了采用 AI 的第二重成本:银行不仅必须投资于能提高生产力和客户服务的工具,还必须投资于防止这些工具成为漏洞来源的安全保障措施。

美国银行正在扩展其 AI 工具包

美国银行(NYSE: BAC)在首席执行官布莱恩·莫伊尼汉的领导下,报告拥有超过 5000 万活跃数字用户,为其部署新功能提供了庞大的客户基础。

这三家银行正在处理同一问题的不同方面。摩根大通限制外部代理的访问权限,花旗强调网络韧性,而美国银行则将人工智能融入其更广泛的数字银行战略中。

对投资者来说,接下来的考验在于银行能否在保持支撑其业务的安全性和信任度的同时,将人工智能转化为可衡量的效率提升和更好的客户体验。在银行业,这项技术的价值可能既取决于它能完成什么,也取决于它能被阻止做什么。

相关阅读: 独家:稳定币或削弱银行存款优势,泰达联合创始人发出警告

图片来自 Shutterstock

登录即免费解锁546字全文

因资讯版权原因,登录长桥账户后方可浏览相关内容
感谢您对正版资讯的理解与支持