人工智能安全是国家战略
二十大报告指出，人工智能是国家战略的重要组成部分，是未来国际竞争的焦点和经济发展的新引擎。国家互联网信息办公室公布的最新数据显示，截至2025年3月31日，我国共有346款生成式人工智能服务完成备案，大模型成为赋能企业数字化转型的新标配。随着以GPT-4、DeepSeek等为代表的千亿级参数AI大模型进入产业化应用阶段，在提升各垂直行业智能化的同时，AI大模型面临的安全威胁呈现出指数级增长态势。行业数据显示，截止到2025年3月，针对大模型的攻击呈现爆发式增长，但安全防御体系因技术滞后和攻击手段快速迭代面临严峻挑战，导致各行业面临前所未有的安全风险。全球AI系统遭受的安全攻击数量同比激增280%，其中针对大模型API接口的攻击类型占比高达65%。上述攻击不仅可能导致模型服务中断，更会引发数据泄露、内容安全失控等系统性风险。当前AI安全基础设施面临技术、治理与生态的多重挑战，呈现出"防御滞后、治理分裂、生态脆弱"的复杂格局。
AI大模型应用安全面临严峻挑战
图1. 大模型全生命周期过程均面临着严重的信息安全威胁
AI大模型安全应用中的信息安全威胁主要包括数据投毒、模型窃取、对抗样本和后门攻击等（图1）。数据投毒攻击通过构造特殊查询指令，利用模型输出中的隐蔽通道窃取训练数据中的敏感隐私信息；模型窃取攻击采用黑盒查询与逆向工程技术，非法获取目标模型的架构参数或决策边界特征，造成模型隐私泄露；对抗样本攻击对输入数据施加人眼不可见的特定扰动，诱导模型产生错误分类或异常输出，破坏系统可靠性；后门攻击则在模型训练阶段植入恶意样本，使特定触发模式（如图像水印）输入时激活预设的异常行为，形成系统性安全漏洞。上述信息安全威胁形成数据安全、模型安全与应用可靠性的多维度威胁，并在大模型部署、训练运维等全生命周期中引发系统性安全崩塌风险。
增加安全AI一体机受到业内广泛关注
图2.增强安全AI一体机
针对这些挑战，人工智能安全实验室胡晓娅教授团队与武汉国创超算科技有限公司联合研发，创新出品全国首款增强安全AI一体机（图2）。增强安全AI一体机突破现有的AI大模型防护方法注重系统单点或局部安全的局限性问题，为AI大模型提供一套全局性、系统化、完整化AI大模型信息安全防护流程，覆盖大模型全生命运行周期与服务全流程，为高价值AI系统信息安全防护提供了系统级解决方案，提高了大模型在私有化部署下的安全能力。
图3. AI一体机增强安全解决方案
增强安全AI一体机通过“输入防护-模型加固-输出防护”的信息安全防护框架系统化加固大模型服务全流程，并通过攻防测试实验验证该框架在应对模型窃取、敏感信息泄露、提示注入、后门攻击等多类攻击场景下的防御有效性。通过软件解析+硬件加密的方法实现模型输入的精准防护，通过基于设备指纹的身份认证，拦截不可信节点的恶意服务请求，并基于真随机数的密码卡对合法用户的密文输入和模型输出进行加解密操作；并对模型接入的流量与模型输出进行过滤和清洗，实现模型的安全可信输入输出，深度保护模型隐私安全。模型加固部分由对抗训练与模型防御优化构成，对抗训练部分通过差分隐私等加密技术，保护模型参数与隐私信息并通过对抗样本训练增强模型防御能力；同时通过防御优化模块，在不影响模型性能的前提下对模型结构进行鲁棒优化，增强AI大模型对对抗样本污染等信息安全威胁的抵抗能力。形成了从输入到输出，以大模型为载体的全流程、纵深式大模型信息安全防御架构。
相关链接：自主创新 武汉出品 全国首款增强安全AI一体机
学院公众号二维码