<p><strong>新加坡金融管理局最近发布了关于人工智能风险管理的指导方针。</strong></p>
<p>在新加坡金融科技节第三天的 “负责任创新：人工智能治理作为竞争优势” 论坛上，与会者表示，人工智能治理必须成为每个金融机构战略中不可或缺且不断发展的部分。</p>
<p>就在最近，新加坡金融管理局（MAS）发布了一份咨询文件，提出了针对所有金融机构（FIs）的人工智能风险管理指导方针，概述了对人工智能使用的监管期望。</p>
<p>MAS 银行二部执行董事吴格珠表示，这些指导方针是基于多年来的工作而制定的，并补充说，行业参与者一直在寻求更大的监管确定性和对监管期望的清晰理解，因为人工智能的采用正在扩大。她指出，强有力的治理变得至关重要，以支持安全的部署，并且 “如果你做得好，你就会感到安心，然后你就可以取得进展。”</p>
<p>吴格珠表示，MAS 在制定指导方针时寻求平衡的两个领域。第一个是确保足够的清晰度和灵活性。</p>
<p>“清晰度将使指导方针具有可操作性。这些指导方针已经超越了 FEAT 原则，从 ‘为什么’ 转向 ‘如何’。指导方针还需要灵活，以适应不同规模和风险特征的金融机构，使它们能够按比例实施这些指导方针，” 吴格珠说。</p>
<p>吴格珠补充说，MAS 在起草新指导方针时必须谨慎平衡。目标是制定基于原则的规则，提供清晰度而不至于过于具体，以便框架支持创新，而不是超前于创新。</p>
<p>她指出，第二个平衡是应对当前与人工智能相关的风险，同时为随着技术发展可能出现的风险做好准备。尽管这些指导方针是基于 MAS 现有的监管期望——涵盖监督、风险管理、政策和框架、生命周期控制和能力——但它们也强调了与人工智能部署相关的额外考虑。</p>
<p>吴格珠指出，未来可能出现的风险源于人工智能代理等发展，如果在机构的系统中赋予更大的自主权，可能会引入新的脆弱性，包括恶意提示或未经授权的数据访问。她补充说，这些指导方针旨在广泛适用于所有人工智能技术和应用，并鼓励行业反馈，以便 MAS 完善其方法。</p>
<p>德意志银行的董事总经理兼首席分析官萨米尔·古普塔欢迎这些指导方针的发布。</p>
<p>“从德意志银行的角度来看，我们声明我们在人工智能方面的价值。今年，我们有望从人工智能中创造近 10 亿美元的价值，” 古普塔说。</p>
<p>古普塔解释说，银行通过广泛的 A/B 测试来衡量这一价值，这种方法已经使用了几年，以评估人工智能驱动的干预措施的影响。古普塔表示，人工智能现在是德意志银行运营的 “核心和主要” 部分，而不是一个附属项目，因此强有力的治理对于安全地扩大其使用至关重要。</p>
<p>“我给出的类比是，汽车要快，除了发动机外，还需要刹车。如果没有刹车，即使是拥有最佳发动机的汽车也无法快速行驶。人工智能治理就像这样。当它做得正确时，它使我们能够平衡速度和创新，让我们专注于重要的事情，” 古普塔说。</p>
<p>Income Insurance 的首席数据官大卫·谭表示，嵌入式人工智能在核心和传统技术系统中的日益使用使治理变得更加复杂。他指出，确保组织知识基础的相关性至关重要，以确保 “我们从人工智能系统中获得的任何非确定性结果，都与我们作为组织所期望的内容相关。”</p>
<p>随着技术快速变化使得管理不确定性变得困难，谭表示，重点是通过行业合作减少模糊性，以明确原则、风险和共享方法。“我们能做的就是限制模糊性，” 他补充道，随着技术的发展，基于这一基础构建特定于机构的流程。</p>
<p>黑石集团的董事总经理马尔科·米莱克表示，该手册在强化和协调公司的现有治理实践方面非常有价值。</p>
<p>他指出，黑石集团长期以来在其业务中应用人工智能，从传统模型到生成式人工智能，并将治理作为所有职能的横向层面。尽管该公司的许多技术、供应商和数据控制已经解决了许多人工智能风险，但米莱克表示，新的挑战——例如生成模型中的幻觉——需要额外的保障措施。</p>
<p>“我们根本相信，我们仍然处于一个人机协作是必要控制的阶段，” 他说，并补充说，黑石集团保持 “围墙花园” 方法，以确保专有数据不会离开组织或训练外部模型。</p>
<p>在小组讨论中，吴格珠被问到她会给行业什么警告，以确保人工智能治理不仅仅成为合规或监管要求。</p>
<p>“不要在移动的场景中静止不动，因为人工智能风险管理需要适应人工智能系统和模型的动态特性。因此，即使在人工智能部署之前你已经做了所有必要的事情，仍然可能会出现模型静止。由于模型数据漂移，可能会出现性能下降，因此持续监测模型的表现以及模型是否仍然适合其目的非常重要，” 吴格珠说。</p>
<p>吴格珠还指出，金融机构内人工智能民主化和用户赋权的趋势日益明显。这意味着可能存在影子 IT 或影子人工智能的风险，这可能导致数据泄露。</p>
<p>Goh 强调了持续监督、强大的风险文化和持续培训的必要性，以便员工了解哪些工具是被允许的，以及如何安全地使用人工智能。</p>

星展集团控股

星展集团(ADR)

<p>新加坡金融管理局（MAS）发布了针对金融机构的人工智能风险管理指南，强调人工智能治理作为战略优先事项的重要性。该指南旨在提供清晰性和灵活性，平衡当前和未来与人工智能相关的风险。来自星展银行、Income Insurance 和黑石集团的行业领导者强调了强有力的治理在安全扩大人工智能应用中的必要性，以确保在管理风险的同时推动创新。该指南鼓励行业反馈，以完善 MAS 的做法</p>

<p><strong>MAS recently released its guidelines on AI risk management.</strong></p>
<div class="lb-trans"><p><strong>新加坡金融管理局最近发布了关于人工智能风险管理的指导方针。</strong></p>
</div><p>AI governance must be an integral, evolving part of every financial institution’s strategy, panellists at the Innovating Responsibly: AI Governance as a Competitive Advantage during Day 3 of the Singapore Fintech Festival said.</p>
<div class="lb-trans"><p>在新加坡金融科技节第三天的 “负责任创新：人工智能治理作为竞争优势” 论坛上，与会者表示，人工智能治理必须成为每个金融机构战略中不可或缺且不断发展的部分。</p>
</div><p>Just recently, the Monetary Authority of Singapore (MAS) issued a consultation paper proposing guidelines on AI Risk Management for all financial institutions (FIs), outlining supervisory expectations for the use of artificial intelligence.</p>
<div class="lb-trans"><p>就在最近，新加坡金融管理局（MAS）发布了一份咨询文件，提出了针对所有金融机构（FIs）的人工智能风险管理指导方针，概述了对人工智能使用的监管期望。</p>
</div><p>Goh Gek Choo, executive director of the Banking Department II at MAS, said the guidelines were built on past work done over the years, adding that industry players had been seeking greater regulatory certainty and clarity around supervisory expectations as AI adoption scales. She noted that strong governance is becoming essential to support safe deployment, and that “if you do this well, you get the comfort, then you can make the progress.”</p>
<div class="lb-trans"><p>MAS 银行二部执行董事吴格珠表示，这些指导方针是基于多年来的工作而制定的，并补充说，行业参与者一直在寻求更大的监管确定性和对监管期望的清晰理解，因为人工智能的采用正在扩大。她指出，强有力的治理变得至关重要，以支持安全的部署，并且 “如果你做得好，你就会感到安心，然后你就可以取得进展。”</p>
</div><p>Goh said there were two areas where MAS sought balance. The first was ensuring sufficient clarity and flexibility.</p>
<div class="lb-trans"><p>吴格珠表示，MAS 在制定指导方针时寻求平衡的两个领域。第一个是确保足够的清晰度和灵活性。</p>
</div><p>“The clarity will allow the guidelines to be actionable. The guidelines have moved beyond the FEAT principles from the why to the how. The guidelines also need to be flexible to accommodate financial institutions of different sizes and risk profiles so they can implement the guidelines on a proportionate basis,” Goh said.</p>
<div class="lb-trans"><p>“清晰度将使指导方针具有可操作性。这些指导方针已经超越了 FEAT 原则，从 ‘为什么’ 转向 ‘如何’。指导方针还需要灵活，以适应不同规模和风险特征的金融机构，使它们能够按比例实施这些指导方针，” 吴格珠说。</p>
</div><p>Goh added that MAS had to strike a careful balance when drafting the new guidelines. The aim was to develop principles-based rules that provide clarity without becoming overly prescriptive, so that the framework supports innovation rather than getting ahead of it.</p>
<div class="lb-trans"><p>吴格珠补充说，MAS 在起草新指导方针时必须谨慎平衡。目标是制定基于原则的规则，提供清晰度而不至于过于具体，以便框架支持创新，而不是超前于创新。</p>
</div><p>She noted that a second balance was to address current AI-related risks while preparing for those that may emerge as technologies evolve. Although the guidelines are anchored on MAS’s existing supervisory expectations—covering oversight, risk management, policies and frameworks, lifecycle controls, and capability—they also highlight additional considerations specific to AI deployment.</p>
<div class="lb-trans"><p>她指出，第二个平衡是应对当前与人工智能相关的风险，同时为随着技术发展可能出现的风险做好准备。尽管这些指导方针是基于 MAS 现有的监管期望——涵盖监督、风险管理、政策和框架、生命周期控制和能力——但它们也强调了与人工智能部署相关的额外考虑。</p>
</div><p>Goh pointed to future risks arising from developments such as AI agents, which could introduce new vulnerabilities if given greater autonomy within an institution’s systems, including the potential for malicious prompts or unauthorised data access. She added that the guidelines are designed to apply broadly across all AI technologies and applications, and encouraged industry feedback as MAS refines its approach.</p>
<div class="lb-trans"><p>吴格珠指出，未来可能出现的风险源于人工智能代理等发展，如果在机构的系统中赋予更大的自主权，可能会引入新的脆弱性，包括恶意提示或未经授权的数据访问。她补充说，这些指导方针旨在广泛适用于所有人工智能技术和应用，并鼓励行业反馈，以便 MAS 完善其方法。</p>
</div><p>Sameer Gupta, managing director and chief analytics officer at DBS Bank, welcomed the release of the guidelines.</p>
<div class="lb-trans"><p>德意志银行的董事总经理兼首席分析官萨米尔·古普塔欢迎这些指导方针的发布。</p>
</div><p>“On AI, from a DBS standpoint, we declare our value from AI. This year, we are on track to deliver nearly $1b value from AI,” Gupta said.</p>
<div class="lb-trans"><p>“从德意志银行的角度来看，我们声明我们在人工智能方面的价值。今年，我们有望从人工智能中创造近 10 亿美元的价值，” 古普塔说。</p>
</div><p>Gupta explained that the bank measures this value through extensive A/B testing, an approach it has used for several years to assess the impact of AI-driven interventions. Gupta said AI is now “core and principal” to DBS’s operations rather than a side initiative, making strong governance essential to scaling its use safely.</p>
<div class="lb-trans"><p>古普塔解释说，银行通过广泛的 A/B 测试来衡量这一价值，这种方法已经使用了几年，以评估人工智能驱动的干预措施的影响。古普塔表示，人工智能现在是德意志银行运营的 “核心和主要” 部分，而不是一个附属项目，因此强有力的治理对于安全地扩大其使用至关重要。</p>
</div><p>“The analogy that I will give is, for a car to go fast, the other thing that it needs, other than the engine, is brakes. If you don’t have brakes, even a car with the best engine can’t go fast. The AI governance is like that. When it’s done right, and it allows us to balance the speed and innovation, it keeps us grounded on things which are material and focused,” Gupta said.</p>
<div class="lb-trans"><p>“我给出的类比是，汽车要快，除了发动机外，还需要刹车。如果没有刹车，即使是拥有最佳发动机的汽车也无法快速行驶。人工智能治理就像这样。当它做得正确时，它使我们能够平衡速度和创新，让我们专注于重要的事情，” 古普塔说。</p>
</div><p>David Tan, chief data officer at Income Insurance, said the growing use of embedded AI within both core and traditional technology systems has made governance more complex. He noted the importance of grounding the organisation’s knowledge base to ensure that “whatever non-deterministic outcomes we get out of the AI systems, we want to make sure it is contextually relevant to what we desire as an organisation.”</p>
<div class="lb-trans"><p>Income Insurance 的首席数据官大卫·谭表示，嵌入式人工智能在核心和传统技术系统中的日益使用使治理变得更加复杂。他指出，确保组织知识基础的相关性至关重要，以确保 “我们从人工智能系统中获得的任何非确定性结果，都与我们作为组织所期望的内容相关。”</p>
</div><p>With rapid technological change making it difficult to manage uncertainty, Tan said the focus is on reducing ambiguity through industry collaboration that clarifies principles, risks, and shared methodologies. “What we can do is limit ambiguity,” he added, with institution-specific processes built on top of that foundation as technology evolves.</p>
<div class="lb-trans"><p>随着技术快速变化使得管理不确定性变得困难，谭表示，重点是通过行业合作减少模糊性，以明确原则、风险和共享方法。“我们能做的就是限制模糊性，” 他补充道，随着技术的发展，基于这一基础构建特定于机构的流程。</p>
</div><p>Marko Milek, Marko Milek, managing director, JioBlackRock, Aladdin Engineering at BlackRock, said the handbook has been valuable in reinforcing and aligning the firm’s existing governance practices.</p>
<div class="lb-trans"><p>黑石集团的董事总经理马尔科·米莱克表示，该手册在强化和协调公司的现有治理实践方面非常有价值。</p>
</div><p>He noted that BlackRock has long applied AI across its business, from traditional models to generative AI, and embeds governance as a horizontal layer across all functions. While much of the firm’s technology, vendor and data controls already addressed many AI risks, Milek said newer challenges—such as hallucinations in generative models—required additional safeguards.</p>
<div class="lb-trans"><p>他指出，黑石集团长期以来在其业务中应用人工智能，从传统模型到生成式人工智能，并将治理作为所有职能的横向层面。尽管该公司的许多技术、供应商和数据控制已经解决了许多人工智能风险，但米莱克表示，新的挑战——例如生成模型中的幻觉——需要额外的保障措施。</p>
</div><p>“We fundamentally believe we’re still at a point where human in the loop is an essential control,” he said, adding that BlackRock maintains a “walled garden” approach to ensure proprietary data does not leave the organisation or train external models.</p>
<div class="lb-trans"><p>“我们根本相信，我们仍然处于一个人机协作是必要控制的阶段，” 他说，并补充说，黑石集团保持 “围墙花园” 方法，以确保专有数据不会离开组织或训练外部模型。</p>
</div><p>During the panel, Goh was asked what one caution she would give to the industry so that AI governance doesn’t just become a compliance or regulatory requirement.</p>
<div class="lb-trans"><p>在小组讨论中，吴格珠被问到她会给行业什么警告，以确保人工智能治理不仅仅成为合规或监管要求。</p>
</div><p>“Do not stand still in a moving scene because AI risk management needs to be adaptive to the dynamic nature of AI systems and models. So even if you have done everything that you need before AI deployment, there can still be model stillness. There can be performance degradation due to model data drifts, and therefore, ongoing monitoring of how your model is performing and whether the model remains fit for purpose is important,” Goh said.</p>
<div class="lb-trans"><p>“不要在移动的场景中静止不动，因为人工智能风险管理需要适应人工智能系统和模型的动态特性。因此，即使在人工智能部署之前你已经做了所有必要的事情，仍然可能会出现模型静止。由于模型数据漂移，可能会出现性能下降，因此持续监测模型的表现以及模型是否仍然适合其目的非常重要，” 吴格珠说。</p>
</div><p>Goh also pointed out that there is an increasing trend of democratisation of AI and empowerment of users within the financial institutions. This means there could be a risk of shadow IT or shadow AI, which could lead to data compromise.</p>
<div class="lb-trans"><p>吴格珠还指出，金融机构内人工智能民主化和用户赋权的趋势日益明显。这意味着可能存在影子 IT 或影子人工智能的风险，这可能导致数据泄露。</p>
</div><p>Goh stresses the need for continuous oversight, a strong risk culture, and ongoing training, so that staff understand which tools are allowed and how to use AI safely.</p>
<div class="lb-trans"><p>Goh 强调了持续监督、强大的风险文化和持续培训的必要性，以便员工了解哪些工具是被允许的，以及如何安全地使用人工智能。</p>
</div>

为什么人工智能治理是金融机构的首要任务