【大模型】上海金融与发展实验室主任曾刚 - 避免大模型幻觉，关键环节还需人机协作

　　2024年政府工作报告提出，要大力推进现代化产业体系建设，加快发展新质生产力。“ 人工智能 +”被第壹次写入政府工作报告。

　　3月28日，由马上消费联合中国科学技术出版社、金融界共同举办的“大模型驱动下的金融新质生产力创新论坛暨全国首部《金融大模型》著作发布”活动在京举行。

　　图片来源：每经记者张宏摄

　　在主题分享环节，上海金融与发展实验室主任曾刚表示，传统业务发展模式受到越来越大的挑战，金融领域需要用大模型提升效率、适应客户需求变化和拓展新的服务空间及场景。会后，曾刚就“金融机构在AI应用中如何避免大模型幻觉”这一话题接受了《每日经济新闻》记者采访。

　　传统业务发展模式受到挑战，行业需要用大模型提升效率

　　在主题分享环节，上海金融与发展实验室主任曾刚表示，AI的发展会去除“知识中介”。生成式 人工智能 可以对一些没有原创性的“知识中介”进行替代，很多看似有门槛的专业技术会被淘汰，我们个人对自身的定位也会发生重大变化。

　　曾刚指出，从金融领域来看，行业面临着几大问题。一是资产获取难度越来越大，随着传统客户竞争越来越激烈，新客户发掘越来越难，信贷投放面临压力，传统服务模式可能无法触及客户；二是资产质量发生变化，一些过剩的行业正在经历调整，这个过程对风险防控的要求不断提升；三是息差的收窄，2023四季度商业银行净息差为1.69%，一些银行是低于这一水平的；四是资本补充有一定困境。

　　他强调，传统业务发展模式受到越来越大的挑战，行业需要用大模型去提升效率、适应客户需求变化、拓展新的服务空间及场景。

　　避免大模型幻觉，关键环节还需人机协作

　　会后，曾刚在接受《每日经济新闻》记者采访时表示，既要看到大模型的潜力，又要关注可能的危险。一方面，要依靠技术的不断改进纠正可能发生的大模型幻觉；另一方面，可以通过人机结合，将大模型圈定在助手层面。

　　NBD：金融是一个严谨的领域，要在金融业务中进行AI应用，如何避免大模型幻觉？

　　曾刚：目前我们的确对风险审慎经营保持极大关注。首先，机构层面要审慎经营、避免（使用）过度的危险。在使用（AI的）进程中，对客户、消费者的保护要做到位，避免对客户利益的损伤。

　　金融大模型应用中，可能会在两个方面上发生风险。一是在交易进程中，如果使用大模型时出现大模型幻觉，可能会造成一些潜在的危险，对机构造成伤害；二是在业务进程中，对客户造成伤害。

　　因此要求金融机构，从研发到应用大模型的进程中，均高度关注可能发生的大模型幻觉。既要看到大模型的潜力，又要关注可能的危险。

　　一方面，依靠技术的不断改进，通过各种方法纠正可能的幻觉，但这需要一个过程；另一方面，在实践当中，实现人机结合，不要完全把任务抛给大模型。大模型可以替代一部分工作，但在关键环节还需人工进行校正、核验。通过人机结合，把大模型圈定在人的助手层面上，而不是让大模型完全替代人的工作。既能确保效率提高，同时也能避免大模型幻觉。

　　其次，监管层面上对科技应用也要提出规范要求，避免可能的危险。目前，科技监管越来越规范，通过监管层面引导机构完善治理架构、工作流程，以确保把发展进程中潜在的危险控制在可接受范围之内。