有好消息和非常坏的消息。至少根据一位谷歌前高管的说法,好消息是奇点即将到来。现在就快到了。非常坏的消息是它对全人类构成了严重威胁。
可怕的警告来自 莫高达,一位非常“专业”的经理。他是谷歌登月组织(当时的名称)的首席商务官 谷歌X. 他的警告的话直接来自 Gawdat 的一次采访 他向《纽约时报》承认。
“通用人工智能是不可避免的”
这位谷歌前高管在接受采访时表示,他相信通用人工智能(AGI)那种无所不能、有感知力的人工智能(我们已经在科幻小说的推测中探讨过其有害影响,例如《终结者》中的天网)是不可避免的。一旦到来,人类很可能会发现自己正遭受着神一般的机器带来的灾难。
Gawdat 告诉《泰晤士报》,他在与 Google X 的人工智能开发人员一起工作时得到了这一可怕的启示。这位高管目睹的实验没什么特别的,至少从表面上看是这样。开发人员正在建造可以找到并捡起球的机械臂。经过一段时间的缓慢进展后,高达特说,一只手臂抓住了球,并将其举向研究人员,在他看来,这种姿势似乎是一种炫耀。
“突然我意识到这真的很可怕,”高达特说。 “它完全冻结了我。” “现实是,”他补充道,“我们正在创造上帝。”
这位谷歌前高管看到的危险是现实的。但首先我们需要处理真实的问题。
这位谷歌前高管的警告令人不安,但不是唯一的警告。科技领域不乏对人工智能的明智警告者(或恐吓者,取决于你的观点)。例如,埃隆·马斯克曾多次警告世界,人工智能有朝一日超越人类的危险。前沿的猜测,如果一方面警告危险,另一方面又显得过于“巨大”,也许会分散我们的注意力。 那些现在已经很明显了。
例如,面部识别和 预测警察 对弱势社区造成真正的伤害。 无数算法继续全面传播和编码制度性种族主义。 这些都是可以通过监督和监管来解决的问题。