为了庆祝 2021 年以色列阵亡将士纪念日，以色列国防军交响乐团与一家专门从事合成视频（也称为“deepfake”）的公司合作，将 1948 年阿以战争的照片栩栩如生。
在视频中，身着古代制服的年轻歌手演唱了一首纪念在战斗中阵亡的士兵的标志性歌曲“Hareut”。当他们唱歌时，音乐家们盯着手中褪色的黑白照片。老照片中的年轻士兵对他们眨眼、微笑，这一切都归功于人工智能。道德？过去的事又活过来了。
结果令人不安：
近年来， 尼尔·艾西科维茨 和他的同事 麻省大学波士顿分校应用伦理中心 研究了日常与人工智能的接触如何改变人们对自己的看法。他们发现人工智能有能力削弱人们的批判能力或道德感。
如今，人工智能比以往任何时候都更容易复活过去。这是否也会改变我们理解历史并进而改变我们自己的方式？
需要付出很高的道德代价
让过去复活的愿望并不新鲜。通过老电影的修复和视听材料的从头开始创作，有数十次重演和历史重建。现场重演和精心制作的历史镜头是一项昂贵且耗时的工作。这就是为什么 Deepfake 技术使这些努力民主化，提供了一种廉价且流行的工具来制作旧照片或动画 制作令人信服的假视频 从头开始。
但是，除了这些新技术的无限可能性之外，还有一个严重的道德问题。
XNUMX 世纪的作家和政治家 埃德蒙伯克 他说，社会“不仅是活着的人之间的伙伴关系，而且是活着的人、已经死去的人和即将出生的人之间的伙伴关系。”成为社区的一部分就是成为代际间道德契约的一部分，成为连接生者、死者和未来人的共同事业的一部分。
因为很重要
Deepfake 技术提供了一种强大的方式，将人们与过去联系起来，并加强我们与生活在当下的人们的联系。通过“复活”过去，技术恢复了“死亡”的东西，并使其再次呈现和生动。 Deepfakes 可以增加对我们根源的同理心，并使过去变得更加重要。
但这种能力是有风险的。 首先，很明显，是虚假的历史情节的创造。 虚构的、神话化的和虚假的事件会引发战争：两个例子？ 第一： 4 世纪历史性的科索沃战役失败，至今仍激起塞尔维亚的反穆斯林情绪。 然而，没有人确切知道塞尔维亚联盟是否真的输掉了与奥斯曼帝国的战斗。 第二：1964 年 XNUMX 月 XNUMX 日东京湾袭击美国军舰被用来增加美国在越南的参与度。 然后 事实证明，袭击从未发生过。
无法估量的后果
简而言之，深度造假可以逐渐动摇历史“事件”的概念。随着这项技术变得无处不在，人们会怀疑他们所看到的是否真实。这会导致政治稳定性下降还是更加稳定（因为不知道某事是真是假将不再冲动行事）？目前尚不清楚。
坦率地说，这并不是我目前最担心的道德后果。
我在创意领域工作。 我担心的是，过度使用 deepfakes 会导致我们的想象力萎缩，为我们提供“现成的”和过去的部分图像，这将提供直接且不可改变的联想。 没有细微差别的研究，深度伪造可以成为故事的实际替代品，欺骗人们确切地知道发生了什么，远离任何深入或批判性的反思。
凡事容易，凡事更难：什么是道德？
我们都倾向于认为技术让生活更轻松。 但许多人没有意识到这些技术工具也会导致现有技能的退化。 智能手机让我们可以在网上发布疯狂的照片：有多少人欣赏美景，他们有多忙于捕捉完美的图像来发布？ 我们还迷失在GPS时代，哪里来的冒险？ 有助于理解一件事的小例子：人工智能生成的深度造假不一定能提高我们对过去的士气，或我们对过去的理解。
但它们会来，无论好坏，它们都会彻底改变我们与历史的联系。
