人工智能视域下官兵获取网络信息的安全挑战及对策初探

王国锐 唐文超

人工智能（Artificial Intelligence，英文缩写为AI）是研究如何运用计算机软硬件来模拟人类某些智能行为的基本理论、方法和技术，自1956 年提出概念至今已经历三次大的飞跃。2022 年年末，美国OpenAI推出聊天生成预训练转换器（Chat Generative Pretrained Transformer，简称ChatGPT），其类人化的对话表现迅疾火爆全球，开启了全球新一轮数字技术竞争的新赛道和制高点。作为生成式AI 技术的代表，ChatGPT 在提高工作效率和方便的同时，也日益成为全球战略稳定“重要变量”，尤其是从根本上改变人们获取知识基本模式，诱使用户形成心智依赖，重构决定人类认知底层生态。科技界对新技术新事物有这么一条认识定律：人们总是高估一项科技所带来的短期效益，却又低估他的长期影响。对此，我们必须冷静审视并前瞻思考其带来的机遇和挑战，特别是该技术对官兵获取网络信息所造成的安全挑战。

一、人工智能技术对官兵获取网络信息的安全挑战

ChatGPT 是AI 大模型创新从量变到质变长期积累的成果，是人工智能正在从感知智能向认知智能发展的重要里程碑，昭示着一场“意识形态的核战争”即将到来。网络意识形态斗争处在意识形态领域斗争的最前沿，其技术属性特征更为鲜明。调研了解到，一些官兵已经尝试过百度“文心一言”、讯飞星火等类似ChatGPT 的AI 大模型工具。可以预见，基于网络的AI 大模型技术迅猛迭代，必将对我国网民包括部队官兵的“求知途径、思维方式、价值观念”产生巨大冲击和深远影响。

一是基于生成式AI 的伪造、抹黑足以乱真。生成式AI 通过深度学习个人、群体或某行（专）业大量数据，模仿生成与其风格相似的文字、图片、音频和视频等信息，由此产生的虚假信息将直接影响官兵认知及其多样性发展。2023年2月16日，ChatGPT 仿写的“杭州即将取消限行”通告，迅速引发轩然大波；4 月初，澳大利亚赫伯恩郡市长胡德因ChatGPT 诽谤他行贿，或将提起全球首例针对生成式AI 的诽谤诉讼。可以预见，网络水军进阶嵌入生成式AI工具，将强化拟人程度，即可完成主动发帖、自动交互、长期诱导等更为多元复杂任务，用户难识别、平台难甄别，主流媒体发布信息的公正性与权威性将被侵蚀，这些都会使官兵对社会发展的认知受到影响。特别是大模型技术为少数国家所垄断，更为其发动意识形态战争或“颜色革命”提供优势支撑，以虚假信息煽动、拱火和挑拨，扶植和组织反对势力对目标国进行网络攻击和数据篡改，潜移默化塑造和误导各界舆论，搅乱目标国公众思想认识和主流价值观念，进而把控政治走向。

二是大数据“精准喂养”持续加固“信息茧房”。在智能大数据强势渗透下，与信息获取效率提升伴生的还有信息获取视野的“窄化”。ChatGPT 内部运行流程可归纳为“资料搜集、数据获取—整合构建语言数据库—接收命令和算法加工—结果输出”。从国内外实验统计情况看，类ChatGPT 看似“无所不知”，答案逻辑完整、条分缕析，实则给出的内容多为高级碎片化、不严谨信息。不仅没有真正解决搜索时代信息过量致盲问题，反而使人习惯接受毫不费力的“数据喂养”而不追根溯源。一旦长期桎梏于此，“新型数字鸿沟”将加剧认知层级分化，部分科技素养薄弱的官兵将难以发声；而降低观点多样性将阻碍官兵创新思维的产生，甚至助推错误认知定型。人工智能技术占据网络意识形态领域“话语霸权”的情况将日益严峻，“破茧之路”将更加艰难。

三是算法“自动化偏见”极易催生“群体极化”。群体极化是指在互联网和群体的作用下，促使群体成员的观点或态度在固有倾向的基础上转向极端化。在人机交互和内容生成过程中，AI 算法将根据互动性知识生产模式和使用者标签、喜好，动态调整输出内容和结果，变“给予真相”为“私人定制”。国外多项基于政府官员的实证研究表明，官员们不会盲目信任算法给出的决策建议，但当AI 生成结果与其想法或刻板印象相符或相近时，就会倾向于采纳该决策建议。在“输入—输出—训练—输出”的反复过程中，实际上起指导作用的是算法的“自动化偏见”和个体或群体的“选择性遵从”，通过操控和改变个体认知来强化群体观点，煽动“乌合之众”情绪，最终导致群体极化现象加剧。而发达国家的人工智能技术霸权将进一步加剧信息殖民格局、加大西方优越感传播、加强隐蔽价值观对他国的影响和支配，陷他国民众于网上意识形态极化“泥潭”。

二、人工智能技术挑战下官兵获取网络信息存在的风险点

持续演进的人工智能深度嵌入国际政治、经济、军事诸领域将成为大势所趋。从官兵获取网络信息的安全性角度审视自身短板弱项，主要体现在思想认识不够清晰、机制建设有待加强、应对效能尚未充分释放等方面。

一是官兵拥抱人工智能的热情与去伪存真的能力还不匹配。生成式AI是“大模型+高算力”的组合，其区别以往的智能化程度让用户感到新奇，精准“投喂”喜好信息让用户被舒适拿捏，深度扮演客观公正角色让用户放下戒备心理，使得追求新奇、新潮的青年人积极拥抱其技术应用、探索其效用功能。即使未主动尝试AI 新技术的官兵，只要通过互联网获取信息，均会受到智能算法“算计”。然而，从部队调研数据来看，能选用采用客观正确有效信息的“玩家”很少，能认清讲清生成式AI核心机理的“教员”更少，能做好做精人工智能内容供给的“导师”少之又少，部分官兵拥抱新技术的热情可能直中“技术笑面虎”的下怀，在其制造的“信息茧房”“群体极化”作用下，丧失鉴别辨识能力。

二是规范使用人工智能的法规与日新月异的技术还不适应。当前，社会各界均已充分意识到须通过法治方式规范人工智能技术应用的紧迫性。今年8 月15 日，由国家网信办等七部门发布的《生成式人工智能服务管理暂行办法》正式落地实施，提出了国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求。但需要关注的是，因人工智能技术迭代发展和不确定突变的特点，该领域制度规范滞后性特征相较其他领域更加明显。随着智能时代网络信息的安全风险急速拓展攀升，军队关于“使用、限用、禁用”“何种、何类、何型”人工智能技术的法规还需加紧出台，降低人工智能技术对官兵获取网络信息的安全威胁。

三是灵活运用人工智能的技能与有效控敌的要求还有差距。人工智能是当前最尖端最前沿技术之一，其核心技术多被美欧等发达国家所掌握，其高度的专业性和复杂性也将加剧迭代“势差”，获取“入场券”、发展“主力军”、抢占“主战场”需久久为功。目前，我们在底层算法、大数据安全互联、舆情监测预警等技术上还有较大提升空间；基于主动觉察、智控技术的检测模型和维护机制还不够健全。一旦敌对势力运用人工智能技术对我实施针对性信息投送，我将更多采用技术方式进行事后处理，事中对抗、主动出击和前瞻布局的技术能力还需进一步提高。

三、应对人工智能时代官兵获取网络信息安全挑战的思考建议

前瞻人工智能技术发展影响，网络信息领域很可能涌现虚拟与现实交织、伪造与反伪造对抗、进攻与反制融合等诸多特征。我应积极主动面对，持续加强跟踪研究，着力克服短板弱项，进一步争取主动权。

（一）加强针对性宣传教育。针对人工智能的防范和使用教育，重在引导官兵破除“技术中立”错误认识。一方面，着眼提升官兵的“主体能动”和“理性自觉”抓宣传教育。特别是针对“投喂”信息，点击前做到“三个坚决不看”，禁止浏览的信息坚决不看、信源有疑的坚决不看、观点错误的坚决不看；阅看中做到“三个想一想”，政治立场对不对要想一想、真实情况是不是要想一想、逻辑关系顺不顺要想一想；获取后做到“三个一定要”，观点错误的一定要坚决抵制、问题严重的一定要及时报告、流言蜚语一定要以正视听。另一方面，坚持“多措并举”和“一举多效”抓宣传教育。组织形式上，采取专题教育与随机教育相结合。专题教育重在系统性介绍人工智能安全隐患，帮助官兵廓清认识、审慎对待；随机教育重在使思想开关“时刻在线”。内容安排上，采取基本理论与警示案例相结合。基本原理重在讲透人工智能表象背后的深层逻辑，在知其所以然之上观其然，确保面对技术应用“基因突变”定力不减；警示案例重在辨析人工智能技术发展创新变化点所带来的问题隐患，明确“戒行”指令和“执行”指标，让官兵清晰知晓防什么、怎么防。

（二）构建常态化控防机制。秉持早评估、早发现原则，构建科学有效的应对机制。一是危害风险评估机制。主要对包括人工智能技术发展、人工智能技术应用形态、官兵获取信息中人工智能含量等要素进行危害风险评估。人工智能技术发展方面主要是密切跟踪人工智能发展态势，把握后续技术质变节点，评估其发展走向所带来的危害风险可能性；人工智能技术应用形态方面主要是对其技术所产生的落地应用进行经常性测试，验证其政治立场嬗变和武器化进展情况，评估其既有表现所带来的现实危害风险；官兵获取信息中人工智能含量方面主要是分析评估官兵获取信息中人工智能生成信息的比率，以及此类信息中危害政治安全的比率。二是信息收集机制。为避免敌方利用人工智能对我官兵实施认知域“定点攻击”，必要时可对官兵网上浏览信息实施收集和分析，但需要遵循合法性、正当性和比例性原则。合法性是指信息收集和分析必须获得法律明确授权，拥有执法权限；正当性是指不得超越掌握官兵获取网络信息安全情况的正当目的；比例性是收集行为应当力求个人权利保护与官兵网络信息获取情况之间的平衡，收集行为对个人权利的损害应当尽可能最小。

（三）厚植基础性环境建设。通过构建维护有利于我的互联网环境建设，促使敌借人工智能实施安全破坏企图流产。一方面，加强对互联网领域主流意识数据的输入。人工智能训练需要大量数据作支撑，当前互联网涉军信息主要是主流媒体新闻报道和军迷议论猜测，其数据量相较整体而言如沧海一粟。因此，需要输入大量高质量涉军数据对生成式AI 的内容生成起到正向训练作用，根据使用场景、私密程度、敏感程度对互联网进行数据输入，由此对利用互联网数据进行训练的人工智能进行针对性“规训”。另一方面，加强人工智能技术的反应用。防御化解敌方进攻的同时，加强对敌方的议题设置和反制，按照“扫描—识别—制作—输出”流程，由人工智能实施即时性回应攻击，给出“正确答案”，避免错误言论混淆视听，营造正气充盈网络环境，抢占官兵认知阵地。