AI诈骗频发，名人屡被“冒充”，青少年与AI对话后轻生……AI技术发展进程中，安全挑战一直如影随形。如何确保“AI向善”，发展负责任的 人工智能 ？11月21日，2024世界互联网大会乌镇峰会 人工智能 负责任开发与应用论坛在浙江乌镇举行，来自政、产、学、媒的多位与会嘉宾对此作了深度讨论。
中国国家互联网信息办公室总工程师孙蔚敏、浙江人民政府副省长张雁云出席论坛并致辞。 人民网 老总、流传内容认知全国重点实验室主任叶蓁蓁出席论坛并讲话。
世界 知识产权 组织驻华代表刘华在致辞中指出， 人工智能 的发展正在对 知识产权 工作发生空前绝后的影响， 人工智能 参与下的 知识产权 保护问题成为全球关注的焦点。各国在司法判例和实践中对 人工智能 对 知识产权 的影响有不同样的处理方式，这进一步凸显了 人工智能 技术给 知识产权 造成的挑战。因此，需要进一步强化 人工智能 领域的国际协调与合作，以应对这些挑战。
第十四届全国政协委员、中国网络空间安全协会理事长赵泽良在讲话中指出， 人工智能 的安全治理要把握好三个方面，一是要高度关注和注意解决 人工智能 本身和 人工智能 在使用进程中可能引发的安全问题；二是要善于、重视用 人工智能 ，包含用大模型来处理其它类型的 网络安全 问题；三是 人工智能 安全治理，要以保障和增进 人工智能 的发展应用为起点。这三点哪一点都离不开创新，创新是核心，创新是灵魂。
“AI向善”首先意味着要以人为本。中国工程院院士、同济大学校长郑庆华表示，让科技与人类价值对齐，是引导 人工智能 科技向善、以人为本的重要基础。郑庆华强调，作为教育工作者，既要施展 人工智能 的赋能作用，又要避免技术凌驾于人之上，在人才培养领域坚持德智体美劳全面发展，避免技术“物化”和“异化”。
“AI向善”也意味着要可持续发展。香港理工大学视觉计算讲座教授、欧洲人文和自然科学院外籍院士陈长汶坦言，从实践看， 人工智能 在多方面与可持续发展存在着争夺珍贵资源的博弈。当前的大模型仍依赖于超大规模的算力和能源资源的供给。跟人脑的低功耗相比，不同巨大。需要我们对下一代 人工智能 训练、推理设计提出新的架构要求。
“AI向善”要具体问题具体分析。在蚂蚁集团副总裁李俊奎看来，AI如同高速行驶的汽车，需要道路和信号的引导。他提出“红灯停、黄灯等、绿灯行”的宗旨，即对违反人类价值观的AI应用进行防御和抵制，对潜在风险的AI应用进行慎重对待，对有助于人类的AI应用予以鼓励和支持。
“AI向善”依托于技术的发展。深圳理工大学计算机科学与控制工程学院院长、美国医学与生物工程院院士潘毅说，从应用看， 人工智能 正经历普通模型、行业模型、场景模型和问题模型四个发展阶段，每个阶段的发展，都依赖于更多的知识和参数微调。目前 人工智能 更多是基于参数的预测推理，后续还需不断攻克算力限制、AI幻觉、风险识别等诸多问题，最终在各领域实现高价值赋能。
“我们应该以工具视之，以工具用之，以工具治理之。” 安恒信息 老总范渊提出，新一代 人工智能 技术，不只是人机交互体验、协作的革命，更是专家经验传承的一次变革。在 网络安全 、 数据安全 领域，AI正在重构安全工作协同关系，助力安全产业发展和行业应用价值化显现，为行业应用造成质的变化。
通过积极的治理和技术创新，AI可以成为推动社会进步和提升生活品质的有力工具。宜人智科董事会主席、首席执行官唐宁谈到，从理论研究到商业运用， 人工智能 通过技术创新与应用创新施展了众多积极作用。将 人工智能 技术转化为具体且可行的解决方案与产品，对推动 人工智能 行业的发展和实现商业价值，有着非常重要的意义。
在圆桌讨论环节中，嘉宾一致认为：全球协作是AI治理的关键，需要各方共同努力，形成系统性共识，推动AI治理的有效实施。随后，围绕AI治理的具体路径，中国科学院自动化研究所 人工智能 伦理与治理中心主任曾毅、 中国电信 研究院副院长李安民、浙江大学传媒与国际文化学院常务副院长方兴东、浙江大学滨江研究院数智融合研究中心主任韩蒙、剑桥大学智能未来研究中心项目主任肖恩·欧·海格缇、美国奥尔布赖特石桥集团合伙人及副总裁保罗·特里奥洛、香港医院管理局资讯科技及医疗信息部总经理余法昌、钛媒体联合开创人刘湘明、印象笔记老总兼首席执行官唐毅等多位专家进行了深入探讨。
本次论坛由世界 知识产权 组织、 人民网 、中国网络空间安全协会、 安恒信息 主办，英国标准协会、印象笔记、钛媒体协办，旨在增进建设多主体参与、多层面治理的 人工智能 科研、转化与发展机制，推动构建 人工智能 技术和产业发展的良好生态。