基于业务场景的大模型安全风险评估体系研究

引言

近年来，大语言模型在电力、金融等行业深度应用的同时，衍生出提示词注入、模型幻觉、数据投毒等新型安全风险，并可能通过业务交互链条引发连锁式安全事件。现有研究多聚焦于算力、算法、数据、应用、内容等层面安全，缺乏一套能够系统融合业务场景特性与风险全要素的可量化风险评估体系。本文构建了基于业务场景的涵盖安全能力、大模型模态、大模型在业务场景中的角色及交互的大模型安全体系及其风险评估模型，并通过电力调度知识问答大模型验证其有效性，实现大模型全要素安全风险的精准识别、分析与评价，为大模型赋能千行百业的安全风险管理提供科学指引和实践指南。

本文详细内容请下载：

http://www.chinaaet.com/resource/share/2000007126

作者信息：

魏光辉1,2，陈宇杰1,2，孔德智1,2，刘茂珍3，庞晓健4，甘清鎔1,2

（1.中国电子产品可靠性与环境试验研究所，广东广州511370；

2.智能制造装备通用质量技术及应用工业和信息化部重点实验室，广东广州511370；

3.广东电力人工智能试验研究院有限公司，广东广州510700；

4.南方电网财务有限公司，广东广州510623）