人工智能正在给众多领域带来革命性的变化,军事领域也不例外。机器在不需要人类的情况下做出自主决策的能力不断增强,引发了关于不久的将来战争性质的关键问题。
保罗·沙尔,副总统 新美国安全中心 人工智能应用于国防领域的专家强调了这一演变的潜在挑战和机遇。在这种讨论的背景下,最近上映的电影《造物主》虽然是一部娱乐产品,但却代表了对同一问题的文化反思。我们一起想一想。
在电影《造物主》中,以人类与人工智能之间的未来战争为背景,前特种部队特工约书亚因妻子失踪而悲痛不已,他被招募去寻找并杀死“造物主”——先进的人工智能。事实上,这项任务可能要复杂得多。
第一次决斗(人类输了)? 在天空中
最近的几个例子凸显了人工智能在军事领域的潜力。其中之一(军用无人机也已经自主选择) 我们在这里谈过。您肯定听说过另一种。我指的是阿尔法空战挑战 来自 DARPA,他看到了一名人类飞行员 在飞机模拟器中与人工智能对峙。结果?人工智能以 15 比 XNUMX 的比分战胜了飞行员,展现出近乎超人的能力,例如人类飞行员永远无法完成的瞬间精确射击。
在真正的混战中,人工智能可能已经占据上风。 但这对战争的未来意味着什么呢?
战场上的人工智能
机器做出生死决定的想法引发了复杂的伦理问题。尽管此类机器的目标是更高、“几乎”无误的精度,但任何偏离轨道的行为都将构成战争罪:但谁将直接负责?沙尔认为,建立责任并直接控制人工智能可能并不那么简单。
然而,在不久的将来,人工智能可能主要被人类用于战术和分析。人工智能可以更有效地处理信息,使军队更加有效。但这也可能导致决策越来越依赖人工智能,因为军事环境中的竞争优势可能太诱人,不容忽视。
总而言之,对于沙尔来说,人类正在构建他们不完全理解并且可能无法控制的系统,从而发现我们面临着前所未有的威胁。
AI军备竞赛现在看来不可避免
专家们早已消除了对此事的保留:我们将看到一场类似于核武器的人工智能军备竞赛。
一些中国学者 他们假设存在“战场奇点”:人工智能驱动的决策速度超过了人类的理解能力。在这种情况下,我们可能不得不将“钥匙”交给自治系统。
对于人类与超出我们控制的人工智能之间的假想战争的结果,沙尔并不乐观。他通过一个挑衅性的、引人注目的比较清楚地表明了这一点:我们可能会输掉一场针对猴子的假想战争吗?得出你自己的结论。