随着五角大楼急于部署基于大语言模型（LLM）的工具，研究表明这些工具可能削弱人类的思维与沟通能力。
围绕“致命自主武器”的争论−−这也是特朗普政府与人工智能企业Anthropic 冲突的核心−−掩盖了一个更深层次的风险：五角大楼快速采用商用人工智能工具，它可能削弱美军分辨事实与虚构的能力。
最新研究表明，依赖人工智能完成各类任务，会侵蚀人类自身完成同类任务的原生能力。美军指挥层已开始关注这一问题。
“你使用人工智能越多，大脑的运作方式就会发生改变”，北约转型最高盟军司令、法国海军上将皮埃尔・范迪尔在访谈中表示，“因此，我们必须具备监督能力，能够对人工智能给出的结果进行批判性审视，确保不会被虚假呈现所误导。这是我们必须重视的问题”。
但几乎没有证据表明，五角大楼在急于部署人工智能工具的同时，采取了措施保持使用者的思维敏锐度，甚至对人工智能产生的影响开展监测。
“由于部署这些模型的节奏快、紧迫性强，相关机制可能尚未建立”。一名曾负责在作战环境中部署人工智能的前军方高级官员表示。
与此同时，使用人工智能工具的压力仍在持续加大。
“尤其是在冲突持续深入的阶段，寻找更多目标的压力会越来越大。这在所有冲突中都一样。开战两周后，你基本上已经用完了预先制定的目标清单，现在你需要‘生成’新目标。那么，你能多快生成目标？” 这名前军方高级官员说。
一、认知陷阱
越来越多的研究证实，大规模使用大语言模型会损害人类的思维与沟通能力。
例如，美国空军研究实验室本月早些时候发表在《细胞》期刊上的论文指出，这类工具会导致使用者思维同质化，强化 “主流思维模式，同时边缘化非主流观点与推理策略”。
参与撰写该论文的南加州大学计算机科学教授穆特扎・德赫加尼表示，这对军方至少构成两方面问题。在即时场景中，它 “抹去了信息来源主体的特征信号”，进而丧失评估数据所需的重要背景信息。从长期看，它会抑制批判性思维。
“由于这些模型针对最可能出现、最‘理想化’的回答进行了优化，往往会强制形成线性的‘思维链’推理模式”，德赫加尼在邮件中写道，“这会抑制经验丰富的分析人员采用非线性、直觉性或‘第六感’式策略，而这些策略对于识别罕见例外情况、应对复杂非标准情报场景至关重要”。
同样，宾夕法尼亚大学沃顿商学院的研究人员在今年 1 月发现，使用大语言模型的人会越来越少地花时间核查结果准确性、运用自身判断力。即便明知人工智能出错，用户仍会选择依赖其判断，研究者将这一现象称为“认知投降”。
普林斯顿大学 2 月发布的一篇论文则指出，大语言模型与用户交互的方式−−即所谓“谄媚式人工智能”−−会让人产生虚假的自信，并陷入既有偏见难以自拔：“研究结果显示，一款主流聊天机器人的默认交互效果，等同于向人提供印证自身观点的证据，虽能提升信心，却无助于接近真相”。
二、谁在掌控？
军方至少已意识到该问题的部分层面。五角大楼研究与工程事务负责人埃米尔・迈克尔在 3 月 6 日的一档播客节目中表示，他对Anthropic 的核心担忧在于，军方用户可能过度依赖一款不可靠的单一工具（特朗普政府已禁止联邦机构使用Anthropic 产品）。
“可能存在恶意开发人员篡改模型，使其在关键时刻不按指令行事，或是刻意误导使用者，毕竟你必须通过诱导才能让模型输出结果。我们担心的正是这些情况：模型被蓄意制造幻觉，或不遵守指令”。迈克尔说。
Anthropic 方面也有类似担忧：其工具可能被未接受过专业培训、无法正确评估输出结果的人员使用。一名公司高管表示，他们最担心的是，尚未验证模型能否可靠用于生成打击目标清单。更糟的是，他们无从知晓军方具体如何使用这些工具。例如，Anthropic高管事后才得知，其工具曾被用于策划 1 月 3 日突袭委内瑞拉的行动。
五角大楼此后已将Anthropic 产品列为供应链风险，并着手替换，但包括中东地区在内的军方计划人员仍在使用该类工具。
一名前军方高级官员将此形容为 “严重的治理问题”。OpenAI、Anthropic、谷歌、xAI 等前沿人工智能企业，无法为军方部队提供深度支持，使其了解这些工具的适用条件与使用边界。
“对政府而言，这几乎成了一场边走边摸索的过程”，这名前军方高级官员表示，“这些公司是否有现场人员为日常用户提供支持？我猜测即便有，也可能只有一两个人”。
声明：此文版权归本公号所有，转载请注明出处。图片源自网络，侵删
先圣兵书皆有言，知彼知己百战先。
骄狂轻敌为大患，如履临渊策万全。
天下纷乱迷人眼，见微知著探本源。
敏锐坚韧无惧险，深藏功名助凯旋。
−−斥候自勉