5月9日，新京报贝壳财经记者获悉，经 北京市 民政局批复， 北京市 经信局作为主管单位，北京前瞻 人工智能 安全与治理研究院正式成立。
前瞻研究院将施展科研机构与智库平台的双重作用
北京前瞻 人工智能 安全与治理研究院院长曾毅对记者表示，此前研究院以“北京 人工智能 安全与治理实验室”的组织形式筹建与运行了半年多，考虑机构和成果的延续性，英文名称沿用实验室时期的Beijing Institute of AI Safety and Governance (简称Beijing-AISI)。作为新型研发机构和增进应用与产业发展的前瞻研究院以前瞻思想为引领，服务于 人工智能 产业发展和安全治理的近期与长远需求，通过开展 人工智能 安全与治理相关前沿基础理论研究、关键技术研发、标准规范制定、平台工具构建与服务，有效监测和防范 人工智能 的技术和社会风险，为企业、社会和政府提供 人工智能 安全护栏与安全 人工智能 模型与服务。
前瞻研究院将施展科研机构与智库平台的双重作用，产出 人工智能 安全与治理相关的前瞻引领科学思想、制度与政策建议，并以科学与技术进展进行落地赋能与实践，以安全与治理增进 人工智能 的可持续发展。
曾毅表示，美、英、日、韩、法、加、新等全球十数个国家分别成立了 人工智能 安全相关的研究院所与中心，和诸多 人工智能 安全相关社会组织。作为中国这样负责任的创新大国中 人工智能 科技可靠的城市之一，北京不仅要有所建树，在 人工智能 安全领域施展头雁作用，更要在国际合作中团结国内兄弟单位负担负责中坚力量。
作为来自我国的机构，从筹建期的北京 人工智能 安全与治理实验室到正式建立的北京前瞻 人工智能 安全与治理研究院，在全球 人工智能 安全与治理议题上施展了独特的作用。近期，前瞻研究院受邀在新加坡 人工智能 大会(SCAI 2025)介绍研究成果并组织专题研讨，有关超级对齐的研究成果被大会成果文件《新加坡 人工智能 安全研究优先事项共识(The Singapore Consensus on Global AI Safety Research Priorities)》正面引用，在 人工智能 安全与治理的国际合作与交流中做出了有特色的贡献。
安全是护栏治理是方向盘
甭管是筹建期的“北京 人工智能 安全与治理实验室”还是正式建立的“北京前瞻 人工智能 安全与治理研究院”，为何其并没有像国外的机构一样只是强调了安全?对此，曾毅表示安全是护栏、必要时候的刹车，而治理不仅是风险防范，更是方向盘，引导 人工智能 应当向什么方向发展，不应当进行何种误用、滥用甚至是恶用。
“北京前瞻 人工智能 安全与治理研究院既是在各级政府机构支持下建立的新型研发机构，更是 人工智能 安全与治理科技与社会力量汇聚的平台。前瞻研究院起源并落地于中关村门头沟园京西智谷，汇聚了来自中国科学院自动化研究所、中国信息通信研究院、北京大学、清华大学、北京邮电大学等科研团队力量开展深度合作，并联合中科闻歌、昇腾创新、瑞莱智慧、芯盾时代、智慧云测等 人工智能 与安全企业共同开展 人工智能 安全研究与治理实践，积极构筑全球化交流平台，建立健全覆盖技术研发、风险评估、伦理审查、应急处置的全链条安全治理体系。”曾毅说。
曾毅表示，希望与更多的机构、企业、地方与各个国家形成深度合作，前瞻院势必为北京、为国家的 人工智能 安全与治理体系贡献中坚力量，为全球 人工智能 安全与治理的协作与合作贡献中国声音，以安全与治理引领 人工智能 的稳健发展，为全人类与我们共同的未来。
新京报贝壳财经记者罗亦丹