商业洞察

【人工智能技术】严禁滥用人工智能技术生成虚假信息、操纵市场价格，金融监管总局发布指导意见

【查看信息来源】 6-18 19:33:00

　　6月18日，国家金融监督管理总局网站消息，金融监管总局近日发布《关于银行业保险业人工智能安全开发应用的指导意见》。

　　《指导意见》从治理架构、开发应用、数据治理、算力建设、风险管理、能力提升、保障与监督等方面提出了32项指导性意见。强调金融机构要健全风险治理体系。有效应对金融业务侧可能引发的投资策略趋同、放大市场波动风险，严禁滥用人工智能技术生成虚假信息、操作市场价格。

　　要点速览

　　推动人工智能在服务实体经济、加强金融风险管理等领域施展积极作用，穿透管控关联交易、资金运用等重点领域风险问题

　　鼓励有条件的金融机构建立一条龙人工智能开发平台，实现模型开发部署全流程管理

　　鼓励有条件的大型金融机构向中小金融机构输出算力服务，支持同业探索基础设施共建共享

　　推动模型算法、数据资源、基础设施、应用系统等安全能力建设，完善业务及风险管理流程，防范模型生成结果不可靠风险

　　有序推进人工智能科技创新

　　与金融业务深度融合

　　“当前，我国金融领域不断扩大人工智能技术资源投入，加快人工智能应用场景落地，已形成一定的应用实践基础。”国家金融监督管理总局有关司局责任人表示，国家金融监督管理总局密切跟踪人工智能发展动态，深入调研行业人工智能应用的现状、问题与挑战，在此基础上，研究制定了《指导意见》。目标是规范银行业保险业金融机构对人工智能的开发应用，有效防控人工智能技术应用可能造成的危险，推动数字金融高质量发展，有序推进人工智能科技创新与金融业务深度融合，引导金融领域人工智能应用朝着有益、安全、公平方向健康有序发展。

　　《指导意见》从治理架构、开发应用、数据治理、算力建设、风险管理、能力提升、保障与监督等方面提出了多项指导性意见。

　　一是完善人工智能治理架构。要求金融机构加强顶层设计和统筹管理，建立健全人工智能全生命周期管理体系，强化应用场景和业务流程管理。

　　二是推进高水平人工智能开发应用。要求金融机构完善开发与测评体系，实现模型开发部署全流程管理，稳妥探索人工智能技术研发和金融智能体建设，增进行业应用生态建设。

　　三是提升数据治理能力。要求完善数据管理运营体系，提升数据服务能力，针对业务场景持续推进高质量数据集和知识工程建设。

　　四是加强智能算力建设。按需布局建设自主可控、安全高效的智能算力底座，鼓励有条件的大型金融机构向中小金融机构输出算力服务，支持同业探索基础设施共建共享。

　　五是完善人工智能风险治理框架。要求金融机构将人工智能风险并入全面风险管理体系，实施风险分类分级管理和高风险应用准入管理，在高风险应用关键环节要建立人工监督和干预机制，强化外包和供应链风险管理。

　　六是提升人工智能安全开发应用能力。持续增强人工智能模型稳健性，提高透明度，增进可解释性，确保人工智能应用符合法律法规及社会价值观要求，强化网络安全、数据安全与个人信息保护，强化运营韧性和业务连续性管理。

　　七是保障与监督。明确金融监管总局及各级派出机构加强指导和监督，督促金融机构全面贯彻落实风险治理要求，关注金融业务合规风险，严肃查处违规行为。加强风险应对处置，定期评估监管政策和监管效果，持续提高监管适配能力。

　　加强供应链风险与开源技术管理

　　谈及《指导意见》对金融机构在完善人工智能治理方面提出的要求时，国家金融监督管理总局有关司局责任人表示，首先是加强顶层设计与治理体系建设。董（理）事会指定专门委员会对人工智能开发应用管理负责，强化战略引领，统筹制定发展规划。完善模型研发、数据治理、安全运行、外包管理等方面的基本制度规范，组建跨业务、科技、数据职能的协同机制，培养具备人工智能素养与业务能力的复合型团队，确保人工智能应用与机构自身风险管理能力相匹配。

　　其次是建立人工智能全生命周期管理体系，覆盖需求分析、数据准备、训练开发、部署运行、维护迭代、评估退出等阶段。规范模型研发、应用及资产管理，强化安全评估、伦理审查、责任追溯机制建设。对人工智能应用进行分级分类管理，并实施针对性的不同化管控措施。

　　最后是加强应用场景和流程管理，根据技术适配原则，将适合的技术用于适当的场景，在服务实体经济、金融风险防控等领域充分释放人工智能技术的赋能价值。完善人机协同的业务管理流程，科学设定人工智能的功能界限、系统和数据权限，明确人员岗位责任，确保业务全流程管理责任清晰、可落实、可追溯。

　　值得注意的是，《指导意见》强调，完善人工智能风险治理框架。健全风险治理体系。金融机构应将人工智能风险并入全面风险管理体系，定期开展对人工智能应用风险及管理措施的评估审查。推动模型算法、数据资源、基础设施、应用系统等安全能力建设，完善业务及风险管理流程，防范模型生成结果不可靠风险，防止模型黑箱造成关键业务流程难落责问题。夯实数据安全、网络安全、个人信息与隐私保护和业务连续性基础。有效应对金融业务侧可能引发的投资策略趋同、放大市场波动风险，严禁滥用人工智能技术生成虚假信息、操作市场价格。

　　实施风险分类分级管理。金融机构应根据业务场景重要性、应用规模、对客影响度、模型依赖度、模型复杂度等原因，对人工智能应用进行风险识别和分类分级管理。建立管理制度，制定应用清单，实施分级管控措施，落实管理责任。

　　加强供应链风险与开源技术管理。金融机构要建立对人工智能算力、模型、数据、技术工具等的供应链安全合规管理制度，确保应用自主可控，防范对个别技术服务过度依赖引发的集中度风险。完善开源技术使用规范，建立开源软件管理台账，对外部引入的开源组件应进行审查评估，强化代码审计、漏洞扫描及安全测试，定期排查开源组件风险隐患，防范供应链投毒。