跳到正文

五角大楼考虑让AI公司用机密数据训练军事专用模型,安全风险同步升高

MIT Technology Review 报道称,美国国防部正讨论在安全环境中让生成式 AI 公司用机密数据训练面向军事任务的模型版本,此举或提升模型在特定任务中的准确性,但也会把更敏感的情报信息嵌入模型本身。

功思 AI 编辑部

约 3 分钟读完

五角大楼考虑让AI公司用机密数据训练军事专用模型,安全风险同步升高

MIT Technology Review 报道称,美国五角大楼正在讨论一项新的生成式 AI 计划:在符合机密项目要求的安全环境中,让 AI 公司使用机密数据训练面向军事任务的模型版本。与当前模型只能在机密环境里“回答问题”不同,这一新方向意味着模型将真正从它接触到的数据中学习。

这一变化的分量不小。报道指出,像 Anthropic 的 Claude 之类模型已经被用于机密场景中的问答任务,包括分析伊朗相关目标。但如果下一步演变为直接在机密数据上训练,模型就不再只是访问这些信息,而是可能把监视报告、战场评估等敏感情报“写进”模型参数本身。

一名美国国防官员向 MIT Technology Review 表示,在特定任务上,用机密数据训练后的模型预计会更准确、更有效。与此同时,五角大楼也在加快其“AI-first” 战斗力议程。报道提到,美国国防部已经与 OpenAI 和 Elon Musk 的 xAI 达成协议,让它们的模型在机密环境中运行;而在与伊朗冲突升级的背景下,更强模型的需求正在持续上升。

按照知情人士的说法,训练将会在经过认证、可承载机密政府项目的安全数据中心进行,届时某个 AI 模型副本会与机密数据配套使用。虽然国防部仍将保有这些数据的所有权,但在极少数情况下,如果 AI 公司相关人员具备相应安全许可,他们也可能接触到这些数据。

不过,在允许真正使用机密数据训练之前,五角大楼仍计划先评估另一类路径:先看模型在非机密数据上的训练效果,例如商业卫星影像。这也说明,军方虽然积极推进 AI,但并未完全跳过风险验证阶段。

专家担忧的重点,在于训练后的模型可能把机密内容重新暴露给不应获得这些信息的人。曾负责 Google 和 OpenAI AI 政策工作、现任战略与国际研究中心 Wadhwani AI Center 主任的 Aalok Mehta 表示,若多个拥有不同密级和信息需求的军方部门共用同一模型,那么模型训练过程中吸收的机密信息,未来就有可能在不恰当的上下文中被重新输出。

Mehta 举例说,如果模型曾接触到某类敏感人力情报,例如某位行动人员的姓名,那么它理论上可能把这类信息泄露给国防系统里本不该接触这项信息的其他部门。这种风险不只关系到制度合规,也可能直接影响现实中的人员安全。相比之下,只要系统架构设计得当,把机密数据泄露到开放互联网或回流给 OpenAI 之类公司本身,反而相对更容易控制。

报道还提到,政府此前已具备部分相关基础设施。例如 Palantir 已拿到大额合同,用于建设安全环境,让官员可以在不把机密信息发回 AI 公司端的前提下,就机密议题向模型提问。但把这套体系从“安全问答”升级到“安全训练”,依然是一项新的难题。

从更大背景看,美国军方正加快把 AI 引入作战与行政流程。文章称,生成式 AI 已被用于战斗场景中的目标排序,也被用于撰写合同和报告等行政任务。如今,五角大楼若进一步推动机密数据训练,将意味着军方与大模型公司的关系进入更深层次协作阶段;而这种能力提升,几乎必然会伴随更复杂的安全边界、权限隔离和泄露防控问题。

参与讨论

正在确认登录状态…