五角大楼的人工智能网络战项目:IKE

安全牛 2020-09-17 11:21

点击蓝字关注我们





从DARPA的X计划到五角大楼神秘面纱下的IKE项目,美国的人工智能网络战争技术平台已经发展到了一个危险的阶段,美国如何以及何时发动网络战的决策将越来越依赖计算机。


马里兰州米德堡内部的联合作战中心是美国军队网络战的“大教堂”,位于一座2018年启用的造价5.2亿美元的综合大楼的一隅,这里也是是美国网络司令部和国家安全局进行网络战时的神经中枢。一群军事人员在一排排小巧的玻璃窗下的数十台计算机显示器后面工作。


三个20英尺高的屏幕安装在窗户下方的墙面上。在大多数情况下,其中两个屏幕每天都会显示来自一个秘密程序——“IKE项目”的信息。


这个房间看起来和标准的政府礼堂没什么不同,但是其背后的IKE项目的意义却非同寻常。


如果说联合作战中心是网络战(使用计算机代码攻击和防御从坦克到电子邮件服务器等目标的艺术)新时代的实体,那么IKE就是大脑。IKE跟踪大屏幕下方的计算机旁“奋战”的200名工作人员的每一次击键,并预测每一个网络任务成功的概率。IKE还可以自动运行程序命令,并在动态获取信息的同时不断进行调整。


告别“人工”网络战


与过去十年网络空间手动操纵工具的战斗相比,IKE完全是一个划时代产物。


网络战争的强大之处在于,它不仅能直接控制敌人的飞机和舰船,而且还能通过指挥武器背后的计算机来终止军事行动,从而避免了流血冲突。自从美国和以色列使用臭名昭著的震网病毒(Stuxnet)打击伊朗核设施以来,网络战争这个概念就得到了发展。


在IKE之前,网络专家会在巨大的白板或粘贴在墙上的密密麻麻的卡片纸张上制定作战计划。他们分成小组,在单独的计算机上运行单独的程序,并将散布着手写笔记的纸条交给中央办公桌,以标记军事行动的进度。


这颇具讽刺意味,在一场被认为是未来派的高科技战斗中,几乎所有与网络空间冲突有关的指挥决策都通过毫无技术含量可言的手工方式,没有中央计划系统,也没有计算机化的思考和分析。


2012年,IKE项目启动,并于2018年开始投入使用,用人工智能代替人类做出更快决策。这意味着,美国如何以及何时发动网络战的决策将越来越依赖计算机。


人工智能技术能大幅提升攻击和防御的潜在优势,能在几分之一秒内检测动态,远超人类黑客的手速。但是,一个棘手的问题在于,像IKE这样的系统依赖于一种称为机器学习的人工智能技术,因此很难进行测试,从而使其动作无法预测。网络战中,任何异常计算机代码都可能会导致附带伤害,例如意外关闭医院电源或破坏商用飞机空中交通管制系统,即使是用极其复杂精妙的计算机也会带来风险。


与网络战争有关的信息,尤其是IKE项目,属于高度机密。甚至任何有关其计算机代码的暗示线索都可能导致实战中该代码的攻击被阻断。因此,外界很难探知IKE项目的细节信息。


但是,根据对熟悉该计划的人士的媒体采访内容,有一点是毋庸置疑的,在军备竞赛提速的大背景下,美国军方正在全力加速采用人工智能和自动化技术。


与谷歌的“阿尔法狗”多少有些类似,IKE能分析大量数据,以百分比的形式精确预测美军军事行动的成败几率。如果“胜率”很高,指挥官可能会决定让系统继续运行而无需进一步的人工干预,该流程虽然尚未正式启用,但是基于目前技术是完全可行的。


AI加速主宰战场


埃德·卡登(Ed Cardon)是已退休的美军中将,从2013年至2016年担任陆军网络部队负责人,他花了多年时间游说高级军方将领和白宫领导人使用网络武器,特别是在他指挥的打击ISIS的网络作战期间。由于担心网络攻击可能搅乱国际关系,他的主张遭遇了政府内部强烈的反对意见。


因为卡登游说的网络武器计划包含很多不确定因素,而这种不确定性是政客们最不愿意看到的。


卡登抱怨说,担心政治影响是奥巴马政府执政期间只批准了少数进攻性网络行动的原因。


震网事件导致的“网络战武器泄露”使得美国在使用网络武器时变得极为谨慎。虽然最初试图破坏伊朗铀浓缩的尝试奏效了,炸毁了核设施中的离心机,但是攻击代码被泄露到互联网上,引起了安全专家们和网络犯罪分子的极大关注,并产生了严重后果。这个直接导致2010年之后,美国政府对使用网络武器的方式和时间方面进行了严格规定。


2013年巴拉克·奥巴马(Barack Obama)签署了一项机密命令,即《总统政策指令20》,其中概述了一系列流程,包括白宫高层会议,这些流程必须在美国网络司令部发起攻击之前进行。军方官员悄悄地抱怨说,该命令束缚了他们的双手,因为行动结果的不确定性,几乎不可能获得批准。


《总统政策指令20》签发后,随着全球网络攻击的数量不断增长,五角大楼官员开始担心美国的网络将不堪重负。


2018年9月,特朗普签署了《国家安全政策备忘录13》,该备忘录取代了奥巴马的命令。该政策的细节仍处于机密状态,但熟悉该消息的消息人士称,一旦国防部长与情报官员进行协调,它将授权国防部长在未经上级批准的情况下批准某些类型的行动。


特朗普的总统命令在IKE早期研究计划成熟之前就已经生效。虽然该命令不是为IKE铺路,但两者迎合了高速网络攻击的新技术和新政策浪潮。


借助IKE,指挥官将能够向决策者提供一个预测成功率的数值,以及另一个计算出来的附带损害(例如破坏可能连接到目标的民用计算机网络)风险数值。


IKE是现代网络战争的模型,但这仅仅是个开始。任何此类战争的自动化都将需要收集大量数据来训练人工智能系统。其他正在开发的程序,例如HACCS(一种利用自主性来对抗网络攻击者的系统),使计算机能够自主阻断网络威胁。


所有这些程序都使网络战更接近1983年的电影《战争游戏》中的场景,该电影中的人工智能系统,因为一个小故障导致无法区分游戏与现实之间的差异,结果引发了核战争。


IKE尚未“转正”成为完全自主的网络引擎,并且美军也绝无可能在其黑客工具库中添加核武器,但这依然为计算机接管更多的网络战斗决策奠定了基础。美国指挥官一直担心会落后于中国和俄罗斯等竞争对手,他们认为后两个国家都在研发AI网络武器。


尽管不断增长的自主网络功能未经测试,但部署这些功能并没有法律障碍。


令一些专家担心的是,人工智能系统并非总是能够以可预测的方式运行,故障可能会危及生命。做出决定的计算机“大脑”也不会担心附带损害:如果牺牲一些美军能提高“胜率”,那么人工智能系统就会面无表情地让这些人去送死。


卡登说:“这台机器为了取胜不惜大义灭亲。”


随着这些日益自主化的系统变得越来越强大,白宫高层官员必须决定是否愿意让AI计算机控制美国的网络武器库,即使他们不了解计算机的决策。


乔治敦大学网络安全和外交政策教授,《黑客与国家》(The Hacker and the State)的作者本·布坎南(Ben Buchanan)指出:“机器学习系统的优势是它们经常吐出数字。”“但危险的是,这些数字并不总是正确的。人们更容易相信,来自计算机的信息总是严格而准确的。”


网络战争的基础原理非常简单。无论是从事进攻还是防御工作的专家,都必须弄清楚哪些计算机或设备在网络上,以及它们在防御方面是否存在弱点。然后,黑客利用这些弱点来控制系统,或者对于防御方来说,则应修复漏洞。


掌握了系统的控制权之后,攻击者几乎可以为所欲为。对于情报机构,这通常意味着要认真监视网络以了解对手。其余时间,网络战争的双方忙于寻求入侵系统,破坏或替换数据以打击对手。


迄今为止,全球尚未爆发全面的网络战争,战斗仅限于遮遮掩掩的国家之间的小规模冲突。网络战的“好处”之一是,国家可以通过多个网络中继运行攻击的代码,这使得跟踪攻击源变得更加困难。但是,十几个拥有先进网络功能的国家/地区一直在忙于破解从发电厂到喷气式战斗机制造商的所有信息。到目前为止,网络战部队的重点是窃取信息。


起源:代号“X计划”


对于网络战争的第一个时代(在世纪之初迅速发展起来),攻击或防御过程意味着一系列手动步骤。五角大楼正忙于从科技公司购买一次性工具,这些工具提供了解决方案来跟踪网络中的所有计算机并查找其代码中的弱点。这意味着一个专家会使用诸如Endgame之类的程序坐在一台计算机上,而另一名专家可能会在另一台计算机上使用诸如Splunk之类的软件。总之,一切进展缓慢,沟通与决策效率低下。


要制定战斗计划,专家们必须离开计算机,在白板或纸上拟定战略,返回自己的驻地,并进行一系列有序的动作来赢得战斗。到2012年,军方已经厌倦了这种繁冗过时的做法。


五角大楼责成其研究部门,即以发明互联网和计算机鼠标而闻名的国防部高级研究计划局(DARPA),想出一种更好的方式来进行网络战争。


DARPA开发的早期系统简化了部队的工作,但是他们仍然面临着巨大的障碍,这主要是因为美国网络司令部的专家不足7,000名,难以保护不计其数的系统。


DARPA的答案是与软件公司合作开展一项新计划,该计划正式称为“基础网络战”,代号“X计划”。


DARPA在2012年发布的X计划中明确指出,网络战必须超越“手动”发动战争的方式,手动方式无法满足网络空间的一项基本原则:“战争以机器速度运行,不是人类的速度。”


近十年后,Plan X演变为IKE项目。五角大楼今年将花费2700万美元,并计划明年花费3060万美元。


X计划最初的工作内容看起来完全不像是IKE这样的团队管理和预测引擎,更接近电影《少数派报告》的交互式屏幕和指示灯,其重点是以数据展示方式显示计算机网络上正在发生的事情。


“最初几年的要求是,必须摆脱键盘和鼠标作为数据接口和交互设备,”X计划外包公司Two Six Lab的部门主管杰夫·卡雷尔斯(Jeff Karrels)告诉媒体:“研究人员喜欢用手势控制系统以及三维全息投影。”


新的数字沙盘视觉系统获取美国网络部队的数据流,取代稀稀拉拉摆放着部队和坦克模型的旧沙盘。两个游戏开发人员负责开发复杂沙盘模型的人机交互。


最终,对于虚拟现实版本战场系统的热情消退了。X计划的工作人员开始设计一种新的方式来整合五角大楼购买的不同网络软件,以便它们都可以在同一台计算机上工作。换而言之,就是开发可以快速连续运行多个程序的自动化工具,通过减少行动任务中的一系列手动步骤来加快操作速度。


这种关注局部细节和自动化的开发思路转变背离了该系统的初衷和总体目标——智能化决策:计划和进行战争。


国家网络安全和通信集成中心的国土安全部工作人员。(拉里·唐宁/路透社)


直到2015年,X计划再次迎来转机。


那年,已退休的中将卡登在关注该计划,并担心专家们会错过机会。


负责DARPA X计划的弗兰克·庞德(Frank Pound)记得当年与卡登开会讨论已取得的进展。卡顿指挥的美国陆军网络司令部(US Army Cyber Command),虽然是DARPA项目,但在开发初期就与该计划密切相关。


庞德在2018年的一次采访中回忆X计划向集成化软件的转型时说:“我们正在努力开发一个能够自主反击的系统。”


卡登补充说:X计划的潜力不仅于此。可以帮助协调所有网络操作,同时不断地仔细检查国防部网络上的信息,以发现新的漏洞并找出攻击者。它可以利用所有这些数据来帮助做出决定,确定美军的攻击可能起作用,以及何时使用。


Mayhem的崛起


2016年夏季,另外一个DARPA培植的项目——Mayhem成为焦点,更接近DARPA最初在2012年描述的全功能平台。


自动化安全系统Mayhem是2016年DARPA网络超级挑战赛(CGC)的获胜者,在黑客竞赛中击败了六个竞争对手,赢得200万美元的最高奖金。


这场竞赛与之前不同的是,Mayhem没有人指挥。一旦受到挑战,它就必须决定何时,如何攻击竞争对手以及如何保护自己的程序,并制定策略来赢得一封闭式网络战争。


Mayhem的自动化技术使机器可以自主做出战术决策:何时闯入对手的系统或何时尝试修复自身防御中的弱点,这已经远远超出了模糊测试的范围。


今年五月五角大楼Mayhem的开发公司ForAllSecure签订了一份价值4500万美元的合同,以扩大Mayhem在美军中的使用范围,因为军方有太多软件bug急需一个“漏洞大杀器”。一份2018年度的美国政府工作报告发现,美国国防部2012年至2017年之间测试的所有武器系统都存在严重的软件漏洞。


但Mayhem这样依赖机器学习的系统普遍存在一些问题:很难对其进行测试,并且机器总是倾向于“投机取巧”。例如,在一个实验中,一台学习玩俄罗斯方块的计算机得出结论:实现“不败”的最佳策略是按下游戏暂停键。


无论军事研究人员使用AI开发何种工具,都很难评估它们在战斗中的工作方式。人们尚不清楚如何测试不断吸收新数据并不断调整其结论的机器学习系统。


此外,Mayhem这种人工智能系统存在一个难题:计算机无法解释他们如何得出答案,这意味着用户必须相信结论是正确的。


虽然人工智能技术目前依然无法“自圆其说”,但卡登坚信X计划可以成为所有美军网络战的平台,在他的推动下,X计划正在演变为网络战争中应用更广泛的管理工具。


酷炫的高科技数字沙盘已经一去不复返了。庞德指出:“今天的X计划是专为军事行动而设计的全栈网络行动平台。”


从X计划到IKE


自从特朗普将“开火权”下放给军队后不久,2018年五角大楼的一个神秘部门夺走了X计划的控制权。


这个部门就是时任国防部副部长的阿什·卡特(Ash Carter)于2012年成立的战略能力办公室(SCO),其任务是将有前途的技术转化为真实的战场工具。如果说DARPA的大部分任务仍然是摆弄理论和概念,那么SCO的任务是确保所有这些工作都能迅速转化为战斗力。


SCO在2018年12月接管X计划时,做的第一件事就是给程序改名。X计划被重新重命名为IKE项目。


SCO向该计划的主要承包商“Two Six Lab”传达了一个重要信息:确保系统使用机器学习来做出更多的预测,而不仅仅是跟踪黑客团队。五角大楼的领导者们看到了Mayhem在网络大挑战赛中取得的成就后,坚信可以将更多的自动化和人工智能技术整合到IKE项目中。预测作战成功率成为关键能力。


SCO还开始研究如何让IKE利用机器学习来侦察潜在攻击目标,让计算机从不同的来源获取信息,以更清晰地了解目标的外观。


从那以后,对人工智能的关注一直在推动IKE不断改进。每三周完成一次系统更新,并将其发送给美国网络司令部。


离开DARPA后,IKE很快就被五角大楼列为高度保密项目。国防部发送给国会的年度预算文件也对该计划进行了命名,并列出了所需资金的数额(2021年为3060万美元),但其他所有细节均保密。


但是,有消息人士声称,IKE计划已经进展到了无需人工干预就能执行其许多功能的关口。目前最大的问题能否获得五角大楼和白宫官员的核准。


到目前为止,国会还没有介入限制军方如何使用其快速发展中的网络武器库。由美国缅因州参议员安格斯·金(Angus King)和美国威斯康星州众议员迈克·加拉格尔(Mike Gallagher)主持的美国网络空间日光浴室委员会研究了一系列涉及网络安全的问题,并对人工智能的兴起表示关注。该委员会在三月份发布的最终报告中发现,人工智能可能导致一场“新军备竞赛”,但没有提出任何形式的监管建议。


如果没有其他阻力,五角大楼会继续开足马力,尽可能开发出最先进的工具。


最新的DARPA项目名为HACCS(针对网络攻击者系统的自动化利用),尝试开发可自行寻找特定类型攻击者的系统,主要是那些发动DDoS攻击的僵尸网络。HACCS可以植入IKE,以发起自动化的网络战斗。


“Two Six Lab”也在研究HACCS计划,并指出最大的问题是美国网络司令部是否会使用它。即使该技术已经具备能力,但目前没有何时可以使用的规则,也不清楚是否会部署。


从技术角度来看,最困难的部分已经完成,并且如果网络专家允许,该软件已经能够计划和发起自己的攻击。这可能会彻底终结大规模的僵尸网络攻击(这种类型的攻击常常使银行网站和其他网站瘫痪)。


虽然已经“就绪”,但IKE依然是一项未经验证的技术,可能会意外关闭并损坏关键的计算机网络。


正如Two Six Lab公司的卡雷尔斯所言:“在IKE变成现实的过程中,我们距离危险越来越近。”


相关阅读

2020网络安全的引爆点:人工智能

人工智能正在提升你的网络安全

俄罗斯:有可能对美实施网络战


合作电话:18311333376
合作微信:aqniu001
投稿邮箱:editor@aqniu.com





推荐阅读