任庆国：坚持底线思维 强化保密管理 安全稳妥推进人工智能大模型在政务领域应用

习近平总书记在主持中共中央政治局第二十次集体学习时强调，面对新一代人工智能技术快速演进的新形势，要充分发挥新型举国体制优势，坚持自立自强，突出应用导向，推动我国人工智能朝着有益、安全、公平方向健康有序发展。今年政府工作报告提出，“持续推进‘人工智能+’行动”“支持大模型广泛应用”“更好统筹发展和安全，坚持在发展中逐步化解风险，努力实现高质量发展和高水平安全的良性互动”。当前，我国正处在加快布局新兴产业创新发展的重要时期，人工智能作为新一代信息技术发展的主攻方向，在各个行业已得到广泛应用。但它作为“两用技术”，却有着突出的“双刃剑”特性，在赋能各行各业打造新质生产力的同时，也面临保密安全、信息泄露等风险。我们要了解人工智能复杂多元的风险隐患，积极主动地进行安全治理，稳妥有序推进人工智能大模型部署，特别是在政务领域更要高度重视、正确应用。

要加强大模型本地化部署的统筹管理。《中华人民共和国保守国家秘密法实施条例》第四十一条规定，“机关、单位工作人员使用智能终端产品等应当符合国家保密规定”。在本地化部署中，要结合工作实际统筹规划大模型的整体设计、建设运维等工作，明确各业务部门、技术部门在系统设计、建设、使用、运维等过程中的职责，落实各参与主体责任。要选用经国家网信主管部门备案的产品，按需推进垂直大模型应用和数据集建设，同步规划、同步建设、同步使用安全技术措施，采取加装保密护栏等，对输入输出涉密敏感信息进行识别、拦截，采取身份鉴别、权限划分、访问控制、安全审计等手段，防止非授权访问和越权操作。

要做好大模型训练数据的保密管理。大模型的性能提升需要大量的高质量训练语料，在政务领域部署人工智能大模型，需要部署外挂知识库或进行二次训练。各机关单位作为数据产生、管理、发布的主体，对本机关单位建设的智能化办公平台保密管理负主体责任。要坚持在数据安全合规的基础上进行创新应用，在守住安全底线的前提下促进技术应用和效能提升。要加强源头治理，科学规范做好重要资源和数据定密及分类分级管理。要严格落实“涉密不上网、上网不涉密”，严禁将国家秘密、工作秘密、敏感信息等输入政务领域人工智能大模型。要统筹建立、推广应用基于密码的大模型保护框架，强化训练数据、模型参数的存储传输防护力度，确保大模型训练、部署、应用全流程数据安全。要组织开展安全测评，定期对政务人工智能应用的可靠性、合规性和可控性进行测试和评估，对于废止使用的人工智能大模型，应采取必要的数据清除、销毁措施，消除失泄密隐患。

要强化有针对性的保密教育培训。从全球范围看，目前因不当使用人工智能大模型导致泄密的事件屡见不鲜，相关风险隐患必须引起高度关注。要加强对新修订的保密法、网络安全法、数据安全法等相关法律法规的学习，有针对性地开展业务培训，通过案例分析、技术演示、场景模拟等方式，教育干部职工正确认识人工智能工具的基本工作原理和可能存在的安全保密风险，规范使用人工智能相关工具。要建立健全信息公开制度，坚持“先审查、后公开”“一事一审”等原则，做到该保守的秘密坚决守住、该公开的信息安全公开。要教育干部职工提高个人信息保护能力，切勿将国家秘密、商业秘密或个人隐私等敏感信息输入AI工具。

要着力提升泄密风险监测预警能力。《中华人民共和国保守国家秘密法》第三十一条规定，“机关、单位应当加强对信息系统、信息设备的保密管理，建设保密自监管设施，及时发现并处置安全保密风险隐患”。全面加强人工智能大模型本地化部署的安全监管，是确保国家秘密安全的重要保障。要按照“谁主管谁负责、谁运行谁负责、谁使用谁负责”原则，制定完善人工智能大模型使用保密管理制度，严格落实保密工作责任制。要强化保密技术监测，科学设置监管策略，及时发现并处置人工智能大模型在政务领域应用中的保密违法违规事件。要制定人工智能安全事件应急预案，针对数据泄露、模型攻击、系统故障等安全事件，及时发现、处置异常行为。要定期对人工智能工具使用情况开展自查自纠，重点检查是否存在违规操作和违反保密规定的行为，发现问题及时整改、全面纠错。要完善政务、网信、公安、保密等跨部门统筹协调机制，持续跟踪人工智能窃密泄密新动向、新规律，加大风险分析研判力度、广度、精度，及时通报预警苗头性、倾向性、前瞻性问题。保密行政管理部门加强监督检查，对不当使用人工智能工具导致泄露国家秘密的案件依法依纪追究责任。

要积极探索人工智能在保密领域应用。《中华人民共和国保守国家秘密法实施条例》第三十六条规定，“国家鼓励研制生产单位根据保密工作需要，采用新技术、新方法、新工艺等创新安全保密产品和保密技术装备”。特定领域、相关科技企业可以根据保密工作需要，先行先试，按照分级保护等国家保密标准有关规定，组织研发、改造和应用人工智能大模型和相关技术产品。保密行政管理部门将加强技术供给，探索构建“人工智能+安全”的网络安全新模式，运用AI来对抗AI，防范不法分子利用人工智能工具进行网络诱导、渗透和攻击。

各级各部门应正视人工智能带来的窃密泄密风险，主动应对、积极防范、趋利避害、为我所用，让人工智能在安全保密的前提下为政务办公工作提供准确、高效、智能的服务。

（作者系省委党校市厅级干部进修班学员、河北省委保密机要局局长）