<p><strong>新加坡金融管理局最近發佈了關於人工智能風險管理的指導方針。</strong></p>
<p>在新加坡金融科技節第三天的 “負責任創新：人工智能治理作為競爭優勢” 論壇上，與會者表示，人工智能治理必須成為每個金融機構戰略中不可或缺且不斷發展的部分。</p>
<p>就在最近，新加坡金融管理局（MAS）發佈了一份諮詢文件，提出了針對所有金融機構（FIs）的人工智能風險管理指導方針，概述了對人工智能使用的監管期望。</p>
<p>MAS 銀行二部執行董事吳格珠表示，這些指導方針是基於多年來的工作而制定的，並補充説，行業參與者一直在尋求更大的監管確定性和對監管期望的清晰理解，因為人工智能的採用正在擴大。她指出，強有力的治理變得至關重要，以支持安全的部署，並且 “如果你做得好，你就會感到安心，然後你就可以取得進展。”</p>
<p>吳格珠表示，MAS 在制定指導方針時尋求平衡的兩個領域。第一個是確保足夠的清晰度和靈活性。</p>
<p>“清晰度將使指導方針具有可操作性。這些指導方針已經超越了 FEAT 原則，從 ‘為什麼’ 轉向 ‘如何’。指導方針還需要靈活，以適應不同規模和風險特徵的金融機構，使它們能夠按比例實施這些指導方針，” 吳格珠説。</p>
<p>吳格珠補充説，MAS 在起草新指導方針時必須謹慎平衡。目標是制定基於原則的規則，提供清晰度而不至於過於具體，以便框架支持創新，而不是超前於創新。</p>
<p>她指出，第二個平衡是應對當前與人工智能相關的風險，同時為隨着技術發展可能出現的風險做好準備。儘管這些指導方針是基於 MAS 現有的監管期望——涵蓋監督、風險管理、政策和框架、生命週期控制和能力——但它們也強調了與人工智能部署相關的額外考慮。</p>
<p>吳格珠指出，未來可能出現的風險源於人工智能代理等發展，如果在機構的系統中賦予更大的自主權，可能會引入新的脆弱性，包括惡意提示或未經授權的數據訪問。她補充説，這些指導方針旨在廣泛適用於所有人工智能技術和應用，並鼓勵行業反饋，以便 MAS 完善其方法。</p>
<p>德意志銀行的董事總經理兼首席分析官薩米爾·古普塔歡迎這些指導方針的發佈。</p>
<p>“從德意志銀行的角度來看，我們聲明我們在人工智能方面的價值。今年，我們有望從人工智能中創造近 10 億美元的價值，” 古普塔説。</p>
<p>古普塔解釋説，銀行通過廣泛的 A/B 測試來衡量這一價值，這種方法已經使用了幾年，以評估人工智能驅動的干預措施的影響。古普塔表示，人工智能現在是德意志銀行運營的 “核心和主要” 部分，而不是一個附屬項目，因此強有力的治理對於安全地擴大其使用至關重要。</p>
<p>“我給出的類比是，汽車要快，除了發動機外，還需要剎車。如果沒有剎車，即使是擁有最佳發動機的汽車也無法快速行駛。人工智能治理就像這樣。當它做得正確時，它使我們能夠平衡速度和創新，讓我們專注於重要的事情，” 古普塔説。</p>
<p>Income Insurance 的首席數據官大衞·譚表示，嵌入式人工智能在核心和傳統技術系統中的日益使用使治理變得更加複雜。他指出，確保組織知識基礎的相關性至關重要，以確保 “我們從人工智能系統中獲得的任何非確定性結果，都與我們作為組織所期望的內容相關。”</p>
<p>隨着技術快速變化使得管理不確定性變得困難，譚表示，重點是通過行業合作減少模糊性，以明確原則、風險和共享方法。“我們能做的就是限制模糊性，” 他補充道，隨着技術的發展，基於這一基礎構建特定於機構的流程。</p>
<p>黑石集團的董事總經理馬爾科·米萊克表示，該手冊在強化和協調公司的現有治理實踐方面非常有價值。</p>
<p>他指出，黑石集團長期以來在其業務中應用人工智能，從傳統模型到生成式人工智能，並將治理作為所有職能的橫向層面。儘管該公司的許多技術、供應商和數據控制已經解決了許多人工智能風險，但米萊克表示，新的挑戰——例如生成模型中的幻覺——需要額外的保障措施。</p>
<p>“我們根本相信，我們仍然處於一個人機協作是必要控制的階段，” 他説，並補充説，黑石集團保持 “圍牆花園” 方法，以確保專有數據不會離開組織或訓練外部模型。</p>
<p>在小組討論中，吳格珠被問到她會給行業什麼警告，以確保人工智能治理不僅僅成為合規或監管要求。</p>
<p>“不要在移動的場景中靜止不動，因為人工智能風險管理需要適應人工智能系統和模型的動態特性。因此，即使在人工智能部署之前你已經做了所有必要的事情，仍然可能會出現模型靜止。由於模型數據漂移，可能會出現性能下降，因此持續監測模型的表現以及模型是否仍然適合其目的非常重要，” 吳格珠説。</p>
<p>吳格珠還指出，金融機構內人工智能民主化和用户賦權的趨勢日益明顯。這意味着可能存在影子 IT 或影子人工智能的風險，這可能導致數據泄露。</p>
<p>Goh 強調了持續監督、強大的風險文化和持續培訓的必要性，以便員工瞭解哪些工具是被允許的，以及如何安全地使用人工智能。</p>

星展集團控股

星展集團(ADR)

<p>新加坡金融管理局（MAS）發佈了針對金融機構的人工智能風險管理指南，強調人工智能治理作為戰略優先事項的重要性。該指南旨在提供清晰性和靈活性，平衡當前和未來與人工智能相關的風險。來自星展銀行、Income Insurance 和黑石集團的行業領導者強調了強有力的治理在安全擴大人工智能應用中的必要性，以確保在管理風險的同時推動創新。該指南鼓勵行業反饋，以完善 MAS 的做法</p>

<p><strong>MAS recently released its guidelines on AI risk management.</strong></p>
<div class="lb-trans"><p><strong>新加坡金融管理局最近發佈了關於人工智能風險管理的指導方針。</strong></p>
</div><p>AI governance must be an integral, evolving part of every financial institution’s strategy, panellists at the Innovating Responsibly: AI Governance as a Competitive Advantage during Day 3 of the Singapore Fintech Festival said.</p>
<div class="lb-trans"><p>在新加坡金融科技節第三天的 “負責任創新：人工智能治理作為競爭優勢” 論壇上，與會者表示，人工智能治理必須成為每個金融機構戰略中不可或缺且不斷發展的部分。</p>
</div><p>Just recently, the Monetary Authority of Singapore (MAS) issued a consultation paper proposing guidelines on AI Risk Management for all financial institutions (FIs), outlining supervisory expectations for the use of artificial intelligence.</p>
<div class="lb-trans"><p>就在最近，新加坡金融管理局（MAS）發佈了一份諮詢文件，提出了針對所有金融機構（FIs）的人工智能風險管理指導方針，概述了對人工智能使用的監管期望。</p>
</div><p>Goh Gek Choo, executive director of the Banking Department II at MAS, said the guidelines were built on past work done over the years, adding that industry players had been seeking greater regulatory certainty and clarity around supervisory expectations as AI adoption scales. She noted that strong governance is becoming essential to support safe deployment, and that “if you do this well, you get the comfort, then you can make the progress.”</p>
<div class="lb-trans"><p>MAS 銀行二部執行董事吳格珠表示，這些指導方針是基於多年來的工作而制定的，並補充説，行業參與者一直在尋求更大的監管確定性和對監管期望的清晰理解，因為人工智能的採用正在擴大。她指出，強有力的治理變得至關重要，以支持安全的部署，並且 “如果你做得好，你就會感到安心，然後你就可以取得進展。”</p>
</div><p>Goh said there were two areas where MAS sought balance. The first was ensuring sufficient clarity and flexibility.</p>
<div class="lb-trans"><p>吳格珠表示，MAS 在制定指導方針時尋求平衡的兩個領域。第一個是確保足夠的清晰度和靈活性。</p>
</div><p>“The clarity will allow the guidelines to be actionable. The guidelines have moved beyond the FEAT principles from the why to the how. The guidelines also need to be flexible to accommodate financial institutions of different sizes and risk profiles so they can implement the guidelines on a proportionate basis,” Goh said.</p>
<div class="lb-trans"><p>“清晰度將使指導方針具有可操作性。這些指導方針已經超越了 FEAT 原則，從 ‘為什麼’ 轉向 ‘如何’。指導方針還需要靈活，以適應不同規模和風險特徵的金融機構，使它們能夠按比例實施這些指導方針，” 吳格珠説。</p>
</div><p>Goh added that MAS had to strike a careful balance when drafting the new guidelines. The aim was to develop principles-based rules that provide clarity without becoming overly prescriptive, so that the framework supports innovation rather than getting ahead of it.</p>
<div class="lb-trans"><p>吳格珠補充説，MAS 在起草新指導方針時必須謹慎平衡。目標是制定基於原則的規則，提供清晰度而不至於過於具體，以便框架支持創新，而不是超前於創新。</p>
</div><p>She noted that a second balance was to address current AI-related risks while preparing for those that may emerge as technologies evolve. Although the guidelines are anchored on MAS’s existing supervisory expectations—covering oversight, risk management, policies and frameworks, lifecycle controls, and capability—they also highlight additional considerations specific to AI deployment.</p>
<div class="lb-trans"><p>她指出，第二個平衡是應對當前與人工智能相關的風險，同時為隨着技術發展可能出現的風險做好準備。儘管這些指導方針是基於 MAS 現有的監管期望——涵蓋監督、風險管理、政策和框架、生命週期控制和能力——但它們也強調了與人工智能部署相關的額外考慮。</p>
</div><p>Goh pointed to future risks arising from developments such as AI agents, which could introduce new vulnerabilities if given greater autonomy within an institution’s systems, including the potential for malicious prompts or unauthorised data access. She added that the guidelines are designed to apply broadly across all AI technologies and applications, and encouraged industry feedback as MAS refines its approach.</p>
<div class="lb-trans"><p>吳格珠指出，未來可能出現的風險源於人工智能代理等發展，如果在機構的系統中賦予更大的自主權，可能會引入新的脆弱性，包括惡意提示或未經授權的數據訪問。她補充説，這些指導方針旨在廣泛適用於所有人工智能技術和應用，並鼓勵行業反饋，以便 MAS 完善其方法。</p>
</div><p>Sameer Gupta, managing director and chief analytics officer at DBS Bank, welcomed the release of the guidelines.</p>
<div class="lb-trans"><p>德意志銀行的董事總經理兼首席分析官薩米爾·古普塔歡迎這些指導方針的發佈。</p>
</div><p>“On AI, from a DBS standpoint, we declare our value from AI. This year, we are on track to deliver nearly $1b value from AI,” Gupta said.</p>
<div class="lb-trans"><p>“從德意志銀行的角度來看，我們聲明我們在人工智能方面的價值。今年，我們有望從人工智能中創造近 10 億美元的價值，” 古普塔説。</p>
</div><p>Gupta explained that the bank measures this value through extensive A/B testing, an approach it has used for several years to assess the impact of AI-driven interventions. Gupta said AI is now “core and principal” to DBS’s operations rather than a side initiative, making strong governance essential to scaling its use safely.</p>
<div class="lb-trans"><p>古普塔解釋説，銀行通過廣泛的 A/B 測試來衡量這一價值，這種方法已經使用了幾年，以評估人工智能驅動的干預措施的影響。古普塔表示，人工智能現在是德意志銀行運營的 “核心和主要” 部分，而不是一個附屬項目，因此強有力的治理對於安全地擴大其使用至關重要。</p>
</div><p>“The analogy that I will give is, for a car to go fast, the other thing that it needs, other than the engine, is brakes. If you don’t have brakes, even a car with the best engine can’t go fast. The AI governance is like that. When it’s done right, and it allows us to balance the speed and innovation, it keeps us grounded on things which are material and focused,” Gupta said.</p>
<div class="lb-trans"><p>“我給出的類比是，汽車要快，除了發動機外，還需要剎車。如果沒有剎車，即使是擁有最佳發動機的汽車也無法快速行駛。人工智能治理就像這樣。當它做得正確時，它使我們能夠平衡速度和創新，讓我們專注於重要的事情，” 古普塔説。</p>
</div><p>David Tan, chief data officer at Income Insurance, said the growing use of embedded AI within both core and traditional technology systems has made governance more complex. He noted the importance of grounding the organisation’s knowledge base to ensure that “whatever non-deterministic outcomes we get out of the AI systems, we want to make sure it is contextually relevant to what we desire as an organisation.”</p>
<div class="lb-trans"><p>Income Insurance 的首席數據官大衞·譚表示，嵌入式人工智能在核心和傳統技術系統中的日益使用使治理變得更加複雜。他指出，確保組織知識基礎的相關性至關重要，以確保 “我們從人工智能系統中獲得的任何非確定性結果，都與我們作為組織所期望的內容相關。”</p>
</div><p>With rapid technological change making it difficult to manage uncertainty, Tan said the focus is on reducing ambiguity through industry collaboration that clarifies principles, risks, and shared methodologies. “What we can do is limit ambiguity,” he added, with institution-specific processes built on top of that foundation as technology evolves.</p>
<div class="lb-trans"><p>隨着技術快速變化使得管理不確定性變得困難，譚表示，重點是通過行業合作減少模糊性，以明確原則、風險和共享方法。“我們能做的就是限制模糊性，” 他補充道，隨着技術的發展，基於這一基礎構建特定於機構的流程。</p>
</div><p>Marko Milek, Marko Milek, managing director, JioBlackRock, Aladdin Engineering at BlackRock, said the handbook has been valuable in reinforcing and aligning the firm’s existing governance practices.</p>
<div class="lb-trans"><p>黑石集團的董事總經理馬爾科·米萊克表示，該手冊在強化和協調公司的現有治理實踐方面非常有價值。</p>
</div><p>He noted that BlackRock has long applied AI across its business, from traditional models to generative AI, and embeds governance as a horizontal layer across all functions. While much of the firm’s technology, vendor and data controls already addressed many AI risks, Milek said newer challenges—such as hallucinations in generative models—required additional safeguards.</p>
<div class="lb-trans"><p>他指出，黑石集團長期以來在其業務中應用人工智能，從傳統模型到生成式人工智能，並將治理作為所有職能的橫向層面。儘管該公司的許多技術、供應商和數據控制已經解決了許多人工智能風險，但米萊克表示，新的挑戰——例如生成模型中的幻覺——需要額外的保障措施。</p>
</div><p>“We fundamentally believe we’re still at a point where human in the loop is an essential control,” he said, adding that BlackRock maintains a “walled garden” approach to ensure proprietary data does not leave the organisation or train external models.</p>
<div class="lb-trans"><p>“我們根本相信，我們仍然處於一個人機協作是必要控制的階段，” 他説，並補充説，黑石集團保持 “圍牆花園” 方法，以確保專有數據不會離開組織或訓練外部模型。</p>
</div><p>During the panel, Goh was asked what one caution she would give to the industry so that AI governance doesn’t just become a compliance or regulatory requirement.</p>
<div class="lb-trans"><p>在小組討論中，吳格珠被問到她會給行業什麼警告，以確保人工智能治理不僅僅成為合規或監管要求。</p>
</div><p>“Do not stand still in a moving scene because AI risk management needs to be adaptive to the dynamic nature of AI systems and models. So even if you have done everything that you need before AI deployment, there can still be model stillness. There can be performance degradation due to model data drifts, and therefore, ongoing monitoring of how your model is performing and whether the model remains fit for purpose is important,” Goh said.</p>
<div class="lb-trans"><p>“不要在移動的場景中靜止不動，因為人工智能風險管理需要適應人工智能系統和模型的動態特性。因此，即使在人工智能部署之前你已經做了所有必要的事情，仍然可能會出現模型靜止。由於模型數據漂移，可能會出現性能下降，因此持續監測模型的表現以及模型是否仍然適合其目的非常重要，” 吳格珠説。</p>
</div><p>Goh also pointed out that there is an increasing trend of democratisation of AI and empowerment of users within the financial institutions. This means there could be a risk of shadow IT or shadow AI, which could lead to data compromise.</p>
<div class="lb-trans"><p>吳格珠還指出，金融機構內人工智能民主化和用户賦權的趨勢日益明顯。這意味着可能存在影子 IT 或影子人工智能的風險，這可能導致數據泄露。</p>
</div><p>Goh stresses the need for continuous oversight, a strong risk culture, and ongoing training, so that staff understand which tools are allowed and how to use AI safely.</p>
<div class="lb-trans"><p>Goh 強調了持續監督、強大的風險文化和持續培訓的必要性，以便員工瞭解哪些工具是被允許的，以及如何安全地使用人工智能。</p>
</div>

為什麼人工智能治理是金融機構的首要任務