Meta 首席执行官马克·扎克伯格 (Mark Zuckerberg) 在最新公告中表示,他希望大力投资开发一个通用人工智能(AGI) 并使其开源。
他的这个意图,倒是让不止一位业内专家都跳了起来,引发了一波质疑和担忧的反应。为什么?
AGI 开源:革命性的还是危险的举动?
如前所述,扎克伯格宣称 Meta 开发的 AGI 将可供开发人员和公众使用,允许任何人使用和改编这项技术。然而,像 AGI 这样先进的系统的开源性质引发了有关安全和监管的严重问题。
温迪·霍尔夫人南安普顿大学计算机科学教授、联合国人工智能咨询委员会成员将开源 AGI 的前景描述为“真的很可怕”,并认为扎克伯格的举动是不负责任的。
这有点像给人们制造核弹的计划
温迪·霍尔夫人
采访和反应:世界的回应
关于开源 AGI 的争论不仅仅是理论上的。 安德鲁·罗戈斯基博士 萨里大学的教授也表达了类似的担忧,并强调如此重大的决定不应由一家科技公司负责。这些评论凸显了在人工智能这样强大和有影响力的领域日益需要国际共识和谨慎监管。
由于具有超越人类能力的潜力,AGI 可以逃脱人类的控制,特别是如果它通过开源而变得广泛可用的话。我们需要迅速克服对直到最近才看来不可想象的系统的怀疑。放弃“祝福”人工智能的相反诱惑 或者认为这是世界末日,并且只需努力调节工具本身及其使用即可。
人工智能的未来和社会责任
扎克伯格再次在未知领域航行,他以同样热情的轻松态度做到了这一点 元宇宙无衬里。我希望您关注 Meta 的社会责任,确保其 AGI 以安全和道德的方式开发和分发。
历史告诉我们,技术创新在带来进步的同时,如果管理不当也会产生负面影响。 Meta的“开源”AGI会带来创新和进步,还是让我们面临难以想象的风险?这些问题的答案不仅将塑造技术的未来,还将塑造人类社会的进程。