【DeepSeek】寻擎记-AI赋能千行百业 网络安全建设需与时俱进

　　【编者案】

　　在全国两会召开之际，本站今起推出“寻擎记”特别策划，以“新质生产力发展图谱”为坐标，观察科技创新与产业创新的共振效应。通过具有代表性的企业样本，探寻它们在科技创新、模式革新、转型升级等方面的独到之处，挖掘企业怎样在新质生产力的赛道上脱颖而出，成为行业发展的引擎。

　　近期，AI成为各界关注的焦点。在全国两会召开之际，接受中国证券报记者采访的部分代表委员表示， 网络安全 建设需要与时俱进，可以通过技术革新，用安全大模型来应对AI存在的潜在安全问题。“安全”务必要“快一步”——快一步抓产品、抓技术，既要看到技术的长板，也要看到技术的短板。

　　全国政协委员、360集团开创人周鸿祎：大模型广泛应用正构建 网络安全 新生态

　　“ 人工智能 （AI）造成的安全问题，是数字安全的一部分。”全国政协委员、360集团开创人周鸿祎近日在接受中国证券报记者采访时表示，大模型快速迭代与成本降低，使得AI技术快速普及，成为带动千行百业生产力提升的新工具，但同时也造成AI幻觉、数据泄露、深度伪造等新出现的大模型应用风险。

　　“大模型的广泛应用正在构建 网络安全 新生态。”周鸿祎将大模型造成的安全问题分为基座模型的安全问题、客户端的安全问题、知识数据的安全问题、智能体的安全问题四个层面，给出的解决思路是“以模制模”——用安全大模型来应对 人工智能 引发的安全问题，为数字世界的新发展构建一个安全底座。

　　关注大模型幻觉

　　今年以来，大模型领域各家企业争相发布新品，大模型性能不断提升，同时使用成本大幅下降，“大模型幻觉”也成为公众关注的热点。所谓“大模型幻觉”是指大模型有时会编造出看起来合理或可信的信息，令人真假难辨。原因一方面来自大模型的运行原理，它通过海量的数据训练，生成出现概率最大的内容，另一方面也来自训练数据的局限性，训练数据本身也有可能包含错误信息。

　　周鸿祎认为大模型的幻觉问题需要辩证看待。“幻觉是大模型的固有特点，没有幻觉的大模型不聪明。”周鸿祎在接受记者采访时说，大模型的幻觉使其拥有类似人们所拥有的想象力，可以创作剧本、撰写文章；在有些科学研究领域，大模型的想象力可以施展关键作用。例如 人工智能 公司DeepMind开发的AI模型AlphaFold，能准确预测蛋白质与DNA、RNA等生物分子的相互作用，为药物研发和结构生物学造成革命性的进展。

　　“但同时，大模型幻觉如果出现在医疗、法律、金融、证券、生产制造等不能犯错的环节，就会造成非常严峻的影响。”周鸿祎说，随着大模型的发展从“不可用”“凑合用”，到“完全可用、能用”，需要实施措施防止大模型幻觉造成的安全风险。

　　周鸿祎表示，大模型应用软件可以通过链接互联网上的知识库来对信息进行校正，企业在应用大模型时可以接入企业专有知识库对幻觉进行校正。“大模型输出结果的不同来自其训练数据，把企业的重要资料放入知识库提供给大模型，大模型就可以依据知识库，知无不言，言无不尽了。”

　　解决大模型应用安全

　　近期，中国草创企业DeepSeek发布开源推理模型DeepSeek-R1，以极低的成本实现高性能表现，搅动了大模型市场格局，同时掀起了大模型领域的开源革命。据不完全统计，已经有数百家公司接入DeepSeek研发的大模型，其中包含国内三大基础运营商，国内外云服务企业、金融机构、手机厂商、车企等。大模型的应用已经逐渐渗透到内容创作、金融、电信、自动驾驶等领域。

　　大模型的快速推广使得大模型应用的安全问题日益突出。周鸿祎认为，在基座模型层面，要处理大模型发生幻觉的问题，可通过连接知识库来校正。在客户端层面，周鸿祎表示：“以后人们许多工作会和公司里的大模型交流互动，因此要防范客户端引发的安全问题，防止来自客户端的安全攻击。”

　　而当大模型的应用催生出更多智能体（Agent），人们将自己的一部分工作职责移交给智能体，则会造成新的安全风险。“假设以后我的智能体能操作电脑，好比给财务员工发送邮件让对方转一笔钱，岂不是造成风险。”周鸿祎称。另外，如果大模型对接的知识库包含庞杂的知识数据，其中涉及个人隐私、商业机密等内容，则存在知识数据层面的安全问题，需要防范信息泄露风险。

　　面对大模型应用造成的基座模型、客户端、智能体、知识数据四个层面的 网络安全 新挑战，传统 网络安全 模式的局限性愈发明显。周鸿祎的解决思路是“以模制模”，通过研发安全大模型，来管理企业知识库的使用、智能体的调用，并参与管理基座模型发生幻觉的问题等。

　　激发产业新活力

　　周鸿祎认为，大模型的开源策略将帮助传统企业降本增效，要推动大模型的应用。“AI要引发工业革命，务必要推动AI技术在企业、政府等各类场景深入地使用，进入千家万户，进入千行百业。”

　　大模型不仅拥有海量知识，还具备出色的对话和推理能力。以医疗行业为例，大模型可以成为个人的医学顾问或慢性病专家，为人们提供健康指导。对于传统医院，大模型能加速其数字化改造，如有医院利用AI帮助病人完成自动预约、处理病历传真，大幅缩短病人候诊时间。对于新兴的生物制造产业，大模型可作为研究工具，助力探索未知领域。

　　从挖掘生产力的视角看，大模型能在企业的决策、管理、业务流程等多个环节施展作用。周鸿祎表示，大模型能为企业管理者提供决策支持，增强员工工作能力，改善内部管理和业务流程，提升产品与服务的质量，有效解决产业发展中的卡点和堵点，实现降本增效。

　　在企业落地方面，周鸿祎认为企业应用大模型要找准方向。首先是找场景，大模型适合解决企业特定专项、专业场景下的垂直问题，企业应结合自身业务，确定大模型的应用场景。其次，要缔造专业知识库，收集企业内部的各种知识，让大模型更专业。最后，要缔造智能体，并将其接入企业的OA办公流程，形成完整的应用体系。

　　全国政协委员、奇安信老总齐向东： 人工智能 面临“成长”懊恼需炼就两只慧眼

　　春节以来，国产AI大模型DeepSeek持续引发关注，各行各业展开“DeepSeek+”行动， 人工智能 应用加速普及。最近，全国政协委员、奇安信科技集团老总齐向东在接受中国证券报记者专访时表示，DeepSeek凭借优异的性能、较低的成本、开源开放的生态，将推动 人工智能 大模型垂直应用的快速发展。

　　齐向东同时表示：“ 人工智能 也有‘成长’的苦恼，随着 人工智能 技术的深度应用，安全挑战也日益严峻，保障 人工智能 时代的网络空间安全是扛在我们肩上的重任， 网络安全 公司要兼具两只慧眼，一只眼睛要看到技术的长板，一只眼睛要看到技术的短板。”

　　 人工智能 加速普及应用

　　谈及DeepSeek，齐向东说，它将训练成本和推理成本都大大降低，对使用AI模型的应用开发者而言，是极大利好。

　　“过去受技术封锁与商业壁垒双重禁锢， 人工智能 领域难以实现资源的高效共享与全方位协同发展。又因为大模型训练需要大资金、 大数据 、大周期，门槛很高，中小创新公司很难参与其中，甚至有言论说，只有大公司才有资格玩大模型。”齐向东表示，DeepSeek的开源策略，就像发令枪，让 人工智能 行业开始开脱“大公司大模型俱乐部”，中小公司得以与大公司在大模型技术上平等竞争，实现“技术平权”， 人工智能 应用将迈向资源共享、携手共进的未来。

　　在讨论DeepSeek所造成影响的同时，许多人也开始思考，如何孵化培育更多的像DeepSeek这样的创新成果。对此，齐向东认为，要继续守护并延续AI创新的“草根化”趋势，保持自下而上的创新张力。

　　安全与治理成为必答题

　　DeepSeek推动 人工智能 技术加速向千行百业渗透，这时， 人工智能 也有“成长”的苦恼。齐向东表示，随着 人工智能 技术的深度应用，大模型所面临的安全挑战也日益严峻。

　　“我们发现，现在越来越多的企业、个人开始将DeepSeek大模型私有化部署，而将近90%的服务器都没有采取安全措施，服务运行和 数据安全 朝不保夕。未来随着 人工智能 大模型的条件设施地位越来越突出，有针对性的恶意手段和风险场景也将激增，伴生的数据隐私、基础设施等安全风险超乎想象。对于整个 人工智能 行业而言，平衡技术创新与安全风险势必成为重要课题。”齐向东强调。

　　齐向东认为，要系统提升安全能力，确保 人工智能 安全发展。“安全”务必要“快一步”——快一步抓产品、抓技术。所有技术都有短板，网络攻击者捕捉的就是技术的短板，而我们使用者看到的都是技术的长板，我们安全公司要兼具两只慧眼，学会用两只眼睛瞄两个方向，一只眼睛要看到技术的长板，一只眼睛要看到技术的短板。我们要练出特殊的功能和本领，为保障 人工智能 时代的网络空间安全贡献力量。

　　推进软件产业高质量发展

　　齐向东表示，包含安全在内的软件产业，是支撑新技术发展的关键，也是助推 数字经济 发展的重要力量。但目前，我国软件产业高质量发展遇到了不小的挑战。

　　他坦言，软件产业是“内卷式”竞争的重灾区，拖慢了软件产业的创新步伐。

　　他建议，加快开展集中整治，从国家、行业、地方政府等层面系统性强化产业激励、行业自律、人才吸引力，全面优化营商环境。好比相关部门出台适配不同产业的投标管理办法和实施细则，增进各个行业进行全方位自我规范。

　　全国人大代表，TCL开创人、老总李东生：AI技术增进科技制造业发展

　　全国人大代表，TCL开创人、老总李东生近日接受记者采访时介绍，针对大型科技制造业企业融资受限、融资规模与企业发展需求不相配等诸多问题，他提出优化科技制造业融资环境的建议。对于近期市场关注的AI相关话题，李东生提出加强对AI深度伪造欺诈管理的建议。他表示，以DeepSeek为代表的AI技术的发展，对科技制造业的发展提供了很大帮助，TCL计划在未来两三年的时间里，大幅提高自身算力中心能力。

　　建议优化科技制造业融资环境

　　TCL成立四十长时间以来，从最初生产磁带的小作坊工厂，已发展成为具有全球竞争力的科技产业集团。 TCL科技 上市后，公司得以通过资本市场融资，为持续在高端科技制造领域的研发投入和产能建设提供资金支持；借助深交所平台，提升公司在行业内的知名度和影响力，吸引更多科研人才和加强与科研机构的合作，有益于技术攻关和自主创新能力提升；规范的资本市场监管促使公司不断完善创新管理体系，保障创新活动高效开展，进而推动新质生产力发展，实现业绩可持续增长。

　　李东生深耕科技制造业，长时间以来，他一直积极为科技制造业的发展建言献策。随着全球科技变革和中国经济转型升级，科技制造业已成为中国经济高质量发展的重要基石，但与全球可靠的科技企业相比，在集成电路制造、半导体显示等产业，中国企业仍处于追赶超越阶段。

　　针对目前大型科技制造业企业融资受限，融资规模与企业发展需求不相配等诸多问题，李东生提出优化科技制造业融资环境的建议。他认为，科技制造业具有高科技、重资产、长周期的产业属性，投入资本金高、回收周期长，投资规模往往超过百亿元人民币，且有持续投资需求，需要相应的权益性资本融资。

　　李东生表示，借助资本市场再融资是企业处于积累阶段推动发展的必备条件，也是企业走向全球可靠的必经阶段。

　　加强AI深度伪造欺诈管理

　　近期， 人工智能 技术发展备受关注。李东生认为，把AI技术应用于供应链的智能化改造和升级，可以提升生产制造的质量和效率；把AI技术应用到产品的设计研发中，可以提升技术发展的速度。其实，在制造业中，AI技术早已经被应用，2018年TCL在波兰设立的欧洲研发中心就已聚焦 人工智能 的研发，另外TCL华星建立了自己的垂类大模型——星智大模型。

　　“我们做了个统计，去年TCL通过AI应用创造的经济创收超过5亿元人民币，而同期我们在AI上的投入成本不到这个数。”李东生表示，以DeepSeek为代表的AI技术的发展，对科技制造业的发展提供了很大帮助。未来两三年，TCL将大幅提高其算力中心的能力，更好地支撑企业的智能化发展。

　　今年，李东生针对AI深度伪造欺诈问题提出相关代表建议。一方面，生成式 人工智能 技术的进步给各个领域造成机遇，另一方面，AI深度伪造内容侵权现象愈演愈烈，欺诈事件频发。针对AI深度伪造内容管理问题，近年来，我国相关立法虽有关注这一议题，但已出台的规章制度还不具备可操作的细则和明确的处罚标准。

　　对此，他提出了四点具体建议：一是加快 人工智能 深度合成内容标识管理规章制度的出台。二是明确对 人工智能 深度合成服务商未履行标识义务的责罚制度，完善未按要求进行标识的表现界定、分类细则，和相应的处罚标准。三是加强对深度合成内容标识技术标准和发布的管理，保证标识的有效性，对相关内容平台出台要求，用户在发布深度合成的视频、音频等内容时，有义务对其进行标识。四是加强国际合作，形成对 人工智能 生成合成内容的有效监管。