【AI大模型】智能永信张凯 - 大模型急需常态化测试评估 -数字风洞-保障AI数字健康

　　3月13日，华创证券“算力赋能，应用无限”论坛在京举办，AI算力、网络和 数据安全 等领域50余家上市公司就 人工智能 技术创新应用进行深度交流。 永信至诚 集团CTO、智能永信总经理张凯受邀出席，发表《AI大模型安全测评数字风洞》主题演讲，提出AI大模型急需常态化测试评估， 永信至诚 “数字风洞”产品体系左右开弓，全面支撑AI大模型基础设施安全与内容风险测评，为AI数字健康提供强有力保障。

　　针对AI大模型存在的安全问题和大众担忧，结合监管要求，张凯认为，要从实质安全运营角度动身，基于AI大模型安全测评“数字风洞”，对基础设施安全和内容安全风险进行连续性检查。

　　首先是产品乘服务，缔造基础安全设施测试平台。AI大模型安全测评“数字风洞”身为一个以安全检测为核心，以“产品乘服务”体系为手段，以安全风险防范化解为目标的测试评估平台，通过模拟各种网络攻击和系统入侵场景，检验AI大模型在不同攻击下的韧性，识别AI大模型基础设施存在的危险，预见和预防未来可能发生的要挟。同时，基于 永信至诚 自主研发的风洞时光机系统，构建“测试-发现风险-迭代优化-再测试-再迭代优化”的科学测评流程，通过安全风险的反复验证、消除和收敛，提升本质安全。

　　其次是以AI测试AI，强化AI大模型内容过滤系统。针对内容安全风险，张凯强调，AI大模型安全测评“数字风洞”的核心优势在于集成了 永信至诚 AI春秋大模型和“数字风洞”产品体系的能力。基于100+提示词检测模板和20万+基础提问，AI大模型安全测评“数字风洞”以攻击者视角构建引导AI大模型发生不妥回答的测试载荷，对AI大模型的安全规则和过滤机制进行深入测试，评估其在处理潜在敏感、违法或不合规内容时的反应，确保AI大模型输出内容更符合社会伦理和法律法规要求，避免安全隐患变成安全事件。（侯利红）