金融监管总局：督促金融机构稳步推进人工智能科技创新与金融业务深度融合

为深入贯彻党中央、国务院决策部署，落实中央经济工作会议、中央金融工作会议精神，推动银行业保险业扎实做好人工智能技术应用和风险防控，金融监管总局近日发布《关于银行业保险业人工智能安全开发应用的指导意见》(以下简称《指导意见》)。

《指导意见》要求开发应用人工智能的银行业保险业金融机构(以下简称金融机构)要完整准确全面贯彻新发展理念，统筹发展和安全，加快培育发展金融行业新质生产力，推动人工智能应用合规、透明、可信赖，加强分类分级管理，有效应对人工智能发展带来的风险挑战，更好服务实体经济和满足人民群众需要。金融机构开发应用人工智能应坚持谁使用谁负责、自主可控、务实高效及安全发展的原则。

《指导意见》从治理架构、开发应用、数据治理、算力建设、风险管理、能力提升、保障与监督等方面提出了32项指导性意见。一是完善人工智能治理架构。要求金融机构加强顶层设计和统筹管理，建立健全人工智能全生命周期管理体系，加强应用场景和业务流程管理。二是推进高水平人工智能开发应用。要求金融机构完善开发与测评体系，实现模型开发部署全流程管理，稳妥探索人工智能技术研发和金融智能体建设，促进行业应用生态建设。三是提升数据治理能力。要求完善数据管理运营体系，提升数据服务能力，针对业务场景持续推进高质量数据集和知识工程建设。四是加强智能算力建设。按需布局建设自主可控、安全高效的智能算力底座，鼓励有条件的大型金融机构向中小金融机构输出算力服务，支持同业探索基础设施共建共享。五是完善人工智能风险治理框架。要求金融机构将人工智能风险纳入全面风险管理体系，实施风险分类分级管理和高风险应用准入管理，在高风险应用关键环节要建立人工监督和干预机制，加强外包和供应链风险管理。六是提升人工智能安全开发应用能力。持续增强人工智能模型稳健性，提高透明度，促进可解释性，确保人工智能应用符合法律法规及社会价值观要求，加强网络安全、数据安全与个人信息保护，加强运营韧性和业务连续性管理。七是保障与监督。明确金融监管总局及各级派出机构加强指导和监督，督促金融机构全面落实风险治理要求，关注金融业务合规风险，严肃查处违规行为。加强风险应对处置，定期评估监管政策和监管效果，持续提高监管适配能力。

金融机构在提升人工智能安全开发能力的过程中应重点关注哪些方面?对此，金融监管总局有关司局负责人表示，金融机构应构建兼具安全性、透明度与责任可追溯的人工智能应用能力体系，统筹风险防控与业务发展。具体包括：一是增强稳健性，完善模型开发测试管理，持续监测模型性能表现，并建立定期迭代优化机制。二是提高透明度，加强人工智能应用透明度管理，为高风险场景应用制定透明度和可解释性标准，对生成内容应进行显著标识，并履行消费者说明义务。三是促进可解释性，制定模型可解释性方法，定期对人工智能算法开展审计。可解释性不足的人工智能技术应用于高风险场景时，仅能作为辅助工具。四是保障伦理道德与公平性，开发应用人工智能应符合法律法规及社会价值观要求，避免算法歧视等不公平性问题。五是加强数据安全与个人信息保护，严格落实数据分类分级保护要求，规范数据访问权限，加强模型安全护栏建设，加强内容过滤及脱敏管理，有效防范客户隐私泄露。六是提升网络安全防御能力，加强模型部署安全，提升智能体系统安全保障能力，持续监控模型行为，定期扫描、修补漏洞，有效防范网络攻击威胁。七是加强运营韧性及业务连续性管理，强化安全运行管理、事件处置和容灾能力建设，保障人工智能应用稳定性、可靠性。

《指导意见》的发布是贯彻党中央关于加强人工智能治理战略部署和落实《国务院关于深入实施“人工智能+”行动的意见》的重要举措。金融监管总局将持续做好《指导意见》政策宣贯工作，督促金融机构稳步推进人工智能科技创新与金融业务深度融合，加快培育发展金融行业新质生产力，有效应对人工智能发展带来的风险挑战，引导金融领域人工智能应用朝着有益、安全、公平方向健康有序发展。