微软总裁布拉德·史密斯警告说,如果立法者不保护公众免受人工智能的侵害,乔治·奥威尔在 1984 年描述的生活“可能会在 2024 年成为现实”。鉴于这项技术的快速进步,它将“很难赶上”。
“如果我们不制定法律来保护公众免受这样的未来的影响,我们很快就会发现技术已经发展到无法重新控制的地步,”史密斯直言不讳地说。
我不断地想起乔治·奥威尔 (George Orwell) 在他 1984 年出版的书中的教训。他谈到政府可以随时看到每个人所做的一切,并随时听到每个人所说的一切。 它在 1984 年没有发生,但如果我们不小心,它将在 2024 年发生。
如果奥威尔在北京
在世界的某些地方,现实越来越接近乔治奥威尔的反乌托邦愿景。
中国的目标是到 2030 年成为人工智能领域的世界领导者,许多人认为其能力远远超过欧洲。
- 2019年,中国 专利数量超过美国 学术机构为人工智能技术创新提供保障。
- 根据 Comparitech 的研究, 全球 54 亿个闭路电视摄像机中有 770% 位于中国.
医生 蓝雪中国政府顾问表示,在发生“严重事件”时,面部识别对于识别群众集会中的人员“非常有用”。我可以向你保证这项技术的发展 它已经相当先进了。
中国对美国人指责的反应
埃里克·施密特(Eric Schmidt)谷歌前首席执行官、现任美国国家人工智能安全委员会主席警告称,在人工智能领域击败中国势在必行。
“我们正与中国发生地缘政治战略冲突,”他说。 “获胜之道是集中我们的资源,制定国家和全球战略,让民主国家在人工智能领域获胜。如果我们不这样做,我们就会看到一个其他价值观强加给我们的未来。”奥威尔式的价值观。
薛博士不这么认为。 “中国并不寻求输出其价值观。当然,它确实在技术发展方面取得了巨大进步,美国觉得这是一种威胁。这就是为什么他们在技术上开始了某种冷战”(不仅如此,我会说).
尽管中国在价值观和政治上与美国存在巨大差异,但其世界观不是趋同,而是共存。
金可玉,伦敦经济学院副教授。
Maven项目
然而,当谈到奥威尔式的控制时,美国表明它的雄心与中国并不完全不同。 施密特博士于 2016 年成为五角大楼顾问,同时保留谷歌母公司 Alphabet 执行主席的职位。 在接下来的几年里,谷歌与 五角大楼 这使他能够将他的一些图像识别技术用作军事项目的一部分。
这个名为 Maven 的项目使用机器学习来区分无人机视频中的人和物体。
“当时的 Maven 是……一种用机器视觉代替人眼拍摄用于各种阿拉伯冲突的无人机镜头的方法,”施密特说。我猜奥威尔不会出现在我的脑海中。 “我认为该技术的使用对国家安全有积极的影响,并且与谷歌建立了良好的合作伙伴关系。”我想了解为什么一项技术在中国手中立即变得“压制性”,而同样的技术在美国手中立即变得“对国家安全有利”,哦,好吧。
我并不是唯一一个想知道这一点的人。甚至谷歌员工自己也这样做了,批评该项目,提交请愿书反对,甚至辞职。
“谷歌不应该参与战争业务,”软件工程师说 劳拉·诺兰 当她发现该项目的性质时,她于 2018 年辞职。 “我感觉我的手上沾满了血。”
不用说,谷歌表示其人工智能只会用于非攻击性目的,然后在 2018 年 XNUMX 月完全退出 Maven 项目。奥威尔博士,抱歉,施密特说,他相信这项技术可以帮助军方“使正确的决定”,并相信这是一件“好事”。
想要成为奥威尔,人工智能军备竞赛
简而言之,说“奥威尔”很容易,但事实是世界公民面临着两党共同的潜在风险。国防部 继续寻找合作伙伴 在硅谷,试图在与中国的人工智能武器全球竞赛中获胜。
因为我们正在参加一场比赛,因为我们正在参加这场比赛,这就是比赛的真正意义。他们会帮助我们赢得这场比赛还是会本质上反对我们?中国没有与我们相同的政府体系。人工智能军备竞赛会导致与中国的冲突吗?绝对地。”
赛斯莫尔顿美国国防未来特别工作组主席,敦促科技公司支持国防部。
奥威尔博士,抱歉,薛(我现在到处都能看到奥威尔)同意存在潜在的冲突。但他以天朝建立所特有的柔和风格狡猾地说,“但这并非不可避免:美国和中国应该真正合作,防止这种情况发生。”