<div id="readability-page-1">作者 | 刘宝丹编辑 | 黄昱AI 大模型技术的迅速迭代，对 AI 治理提出了更高要求，阿里也开始更多思考如何做好 AI 治理。近日，在大模型技术发展与治理创新研讨会上，阿里巴巴集团副总裁钱磊表示，为了对大模型进行有效治理，提高它的可控性，降低应用风险，阿里围绕着大模型研发、应用全生命周期，全面部署了安全保障措施。一是提高模型内生安全能力。在数据采集、处理阶段强调源头管控，进行严格的数据筛选和数据安全标注；在模型训练和设计阶段通过添加安全语料；在模型上线前进行全面安全评估，确保各类风险项目在生成内容上的合格率。二是加强外围护栏能力。在模型部署应用后，通过外围护栏进一步提升大模型在应用场景中的安全性，通过日常巡检验证结果是不是能够达到预期，是不是可靠性、可信、可用都能够达到阿里的要求。阿里还与中国电子技术标准化研究院联合发布了《大模型技术发展及治理实践报告》，这是阿里巴巴连续第三年发布 AI 治理相关研究成果，进一步深化了阿里在技术研发与治理领域的经验总结。阿里研究院院长袁媛认为，AI 大模型的治理思路是解析大模型发展中三个最核心的发展引擎—算力、算法、数据，给出一个适合中国发展的路径，以数据为例，在符合真实世界的特征的前提下，合成数据能帮助模型突破当前的能力上限，并且能够降低更多的安全困扰。自从 2022 年底，ChatGPT 在全球出圈，AI 大模型已经成为科技巨头们争相押注的赛道，阿里就是其中的核心参与力量。在 AI 大模型方面，阿里坚持云和 AI 协同发展，将云从 IT 和 DT 的基础设施向人工智能基础设施方向去演进。据钱磊介绍，阿里会持续加大投入，一是提高自研基础模型通义系列的能力，二是通过完善 AI 基础设施和相关支撑系统，降低模型应用开发的成本。“通义千问” API 调用价格一年间下降了 97%。同时，阿里坚持全尺寸、全模态开源，推动把 AI 能力真正转化成为千行百业的生产力。目前已经有 30 万 + 企业接入了阿里巴巴通义千问大模型。Hugging Face 社区的数据显示，基于 “通义” 模型开发的衍生模型已突破 8 万个，已吸引超过 600 万 AI 开发者参与，在全球开源平台的下载量已突破 1 亿次。在阿里看来，在发展大模型前沿技术推动人工智能应用的同时，也要高度重视人工智能的安全，负责任地去看待大模型带来的安全问题。不过，AI 大模型还处于快速迭代中，解决好安全和治理问题的关键在于，在发展和风险之间做好平衡，这就好比是高速路上换零件，需要极高的智慧和专业。更大的挑战还在后面，随着 AI 大模型真正走进人们的生活，关于人工智能安全和治理的议题还有暴露出更多问题，所有 AI 相关公司都必须面对这一问题。从来没有一种技术像 AI 这样，具有可以匹敌人类的智能，然而这也代表了，一旦 AI 被滥用，其破坏性也同样值得警惕，AI 治理这条路才刚刚开始，阿里已经尝试给出自己的答卷。风险提示及免责条款 市场有风险，投资需谨慎。本文不构成个人投资建议，也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资，责任自负。</div>

阿里巴巴

阿里巴巴-WR

阿里巴巴-W

阿里巴巴在 AI 治理方面提出新路径，副总裁钱磊在研讨会上表示，阿里已全面部署安全保障措施，提升大模型的可控性和降低应用风险。措施包括提高模型内生安全能力和加强外围护栏能力。此外，阿里与中国电子技术标准化研究院发布了《大模型技术发展及治理实践报告》，这是连续第三年发布相关研究成果。阿里将持续加大投入，降低模型应用开发成本。

- 阿里巴巴在 AI 大模型治理方面加强安全保障措施。  
- 通过数据源头管控和模型安全评估，降低应用风险。  
- 阿里持续加大投入，推动 AI 技术与应用的协同发展。  

阿里给出了 AI 治理路径