跳到正文

AI战争的掌权者

本文探讨了人工智能(AI)在战争中的兴起及其引发的伦理争议,重点关注五角大楼的“Maven项目”。文章揭示了AI在决定人类生死问题上的角色,以及谷歌员工曾因此发起的抗议。通过海军陆战队上校德鲁·库克的视角,文章描绘了该项目在五角大楼内部的争议、由怀疑转向信任的复杂过程,以及该项目(现称Maven Smart System)目前在对伊朗的军事行动中的应用。库克被视为AI战争时代的开创性人物,尽管其领导的项目面临高昂成本和严苛审视,其个人命运也可能充满传奇或争议。

功思 AI 编辑部

约 3 分钟读完

AI战争的掌权者

导语

人工智能战争的兴起,引出了当下最重大的道德和实际问题:由谁——或什么——来决定剥夺一条人命?谁又将承担其代价?2018年,超过3000名谷歌员工抗议公司参与“战争业务”,此前他们发现公司参与了“Maven项目”(Project Maven),当时这是五角大楼一项初步的努力,旨在利用计算机视觉技术筛选美国海外无人机战争中拍摄的海量视频录像。他们担心Maven项目的AI有一天会被用于致命性瞄准。

在我为撰写我的书籍《Maven项目:一位海军陆战队上校、他的团队以及人工智能战争的黎明》(Project Maven: A Marine Colonel, His Team, and the Dawn of AI Warfare)所做的多年努力中,我了解到这正是(AI用于致命性瞄准)发生的事情,并且这项事业在五角大楼内部同样充满争议。但这并未减缓其前进的步伐。如今,被称为Maven Smart System的工具正被用于美国针对伊朗的军事行动。美国军方高层从对AI用于战争持怀疑态度转变为坚信不疑,这在很大程度上与一位名叫德鲁·库克(Drew Cukor)的海军陆战队上校有关。

2024年9月初,在一次面向科技投资人和国防界领袖的私人静修会鸡尾酒会上,海军中将弗兰克·“特雷”·惠特沃斯(Frank “Trey” Whitworth)找到了德鲁·库克。如今,Maven项目的创始领导者及其持怀疑态度的继任者面对面站着。

核心信息

三年前,惠特沃斯曾是五角大楼情报部门的最高军事官员,负责为参谋长联席会议主席提供咨询,并管理任何军事流程中最敏感、也可能最具致命性的部分:目标锁定。据一位他的上级向我描述,库克上校是一位“一人就能掀翻一切”的严厉海军陆战队情报官,他以自身代价挑战军事传统、国防官僚体系和人工智能战争的推进,当时他正结束他在Maven项目负责人五年任期。

如果您通过我们故事中的链接购买商品,我们可能会获得佣金。这有助于支持我们的新闻事业。了解更多。

在一场气氛紧张到令在场一些人坐立不安的会议中,我得知,惠特沃斯——一位要求严苛的前海豹突击队6队情报主管,曾近二十年担任军事目标锁定委员会成员——就Maven项目及其AI使用是否跳过了目标锁定过程中的关键步骤、进展过快以及违反规则等问题,对库克进行了严厉质询。

更多细节

“告诉我,在发生‘糟糕的失误’(bad drop)后,当我们通过国会[听证会],面临尖锐质问时,会发生什么?”惠特沃斯质问道。

他担心在目标锁定过程中引入AI时,记录保存和问责问题,并强烈怀疑Maven项目是否值国会已花费的十亿美元,其中大部分款项流向了硅谷备受争议的新兴宠儿:Palantir公司。

当惠特沃斯于2022年6月接管美国国家地理空间情报局(NGA),并负责库克离职后Maven项目的未来时,他仍然担心Maven项目价格过高、过度炒作,并且在他最关心的目标锁定原则方面不够谨慎。惠特沃斯本可以毫不犹豫地关闭该项目。库克的“心血结晶”的未来看起来日益渺茫。“我们都非常担心,”库克在一年多的每周下午谈话中告诉我,“特雷(Trey)不是朋友。”

影响与观察

我最终将库克视为一场尚未发生的战争中的一位历史性关键人物。似乎几乎所有与Maven项目有关的人都这么认为,无论他们是赞美他还是憎恨他。Palantir公司的首席执行官亚历克斯·卡普(Alex Karp)曾赞许地称库克为“疯狂的库克”(crazy Cukor),并称他为“AI瞄准的奠基人”。在与惠特沃斯的对峙后,库克告诉他人:“我将名垂青史,或遗臭万年。”

参与讨论

正在确认登录状态…