党政办公室(机关党委)
业务学习
业务学习
警惕!谨防人工智能技术成为泄密“跑风口”
发布时间:2025-05-27 来源:党政办

当前,以大模型为代表的人工智能技术日新月异,为用户提供写作、对话、合成等服务的生成式人工智能逐渐普及,人工智能写作深受青睐,仅需输入关键词就可一键生成文章。但是,这也带来一定的泄密风险。

案例1|依托人工智能出方案   敏感内容网上传

某涉密单位工作人员李某,在起草一份涉密方案时,听同事说人工智能写作很好用,只要写上主题和需求,就可以帮忙写出文稿。李某在好奇心驱使下,在手机上下载一款人工智能写作应用软件,并私自将该涉密方案的部分敏感内容输入人工智能写作工具,通过人工智能代写生成网络文件资料。事件发生后,李某受到严肃处理。

案例2|借助人工智能提效率  科研成果遭泄露

某科研机构一研究人员保密意识淡薄,为快速完成研究报告,擅自使用人工智能写作应用软件辅助办公,将部分核心数据及实验成果上传到该应用,导致该研究报告中的部分涉密敏感信息被泄露,在网上流传,给该科研机构造成经济损失,也给国家利益带来损害。事件发生后,该研究人员受到严肃处理。

隐患分析

生成式人工智能高度依托互联网、大数据、云计算平台,接收的国家秘密信息会被作为大语言模型进行学习训练,数据获取、处理、存储、运算、传输各环节均面临泄露风险。人工智能数据挖掘功能可基于海量原始数据进行多维推理和关联分析,哪怕只是截取涉密文件片段,也会被攻击窃取或经关联汇聚造成严重泄密。

纪律提醒

机关、单位工作人员使用人工智能办公须绷紧保密之弦,使用合法合规的国产大模型,强化风险意识,规范使用流程,不得将涉密敏感文件、图片、音频、视频等信息,以拍照、输入、复制以及其他任何形式,部分或者全部使用生成式人工智能工具进行处理,坚决避免人工智能办公泄密。

《中华人民共和国保守国家秘密法》第三十一条规定,任何组织和个人不得使用非涉密信息系统、非涉密信息设备存储或者处理国家秘密。

《网络数据安全管理条例》第十九条明确要求,提供生成式人工智能服务的网络数据处理者应当加强对训练数据和训练数据处理活动的安全管理,采取有效措施防范和处置网络数据安全风险。


  选自:《秘书工作》