游戏大师谈AI “终结者”式未来绝非空想

网易智能讯3月24日消息，法国Quantic Dream游戏工作室开发的人工智能（AI）题材互动电影游戏《底特律：成为人类》（Detroit: Become Human），讲述了一个虚构的未来故事。在这个世界上，无数栩栩如生的机器人为人类提供各类服务。它向我们展示了这样的未来：人类失业率居高不下，许多人为此对机器人产生了反感。有知觉的机器人开始反抗自己的仆役地位，它们为此发动了起义。

这听起来可能与《终结者》（The Terminator）的故事情节类似，但Quantic Dream的游戏总监大卫·凯奇（David Cage）对未来学家雷·库兹韦尔(Ray Kurzweil)的开创性著作《奇点临近》(The Singularity is Near)一书做了大量研究。他试图将自己的研究嵌入到游戏世界中，并使场景描述变得尽可能的可信。

凯奇从独特的视角来看待这个挑战，他提出了一个问题：如果人类是邪恶势力，而机器人却是正义一方，结果会怎样？在巴塞罗那举行的Gamelab大会上，凯奇接受采访时谈过这个问题，并阐述了他们在游戏中讲故事的方法。

以下为采访摘要：

问：我对AI很感兴趣，因此我想知道你们是如何认真研究《底特律：成为人类》的背景故事的。你对未来几十年AI的发展心存忧虑吗？

凯奇：我对这个话题做了很多研究，因为我个人很感兴趣。它始于雷·库兹韦尔的《奇点临近》这本书。这对我很重要，因为它让我意识到，在未来的某个时刻，会有比我们更聪明的机器出现。很难说这一切何时会到来，但它最终会发生却是毫无疑问的。对我来说，那就是《底特律：成为人类》这款游戏的起点。

到那时会发生什么？有两种理论：首先，它们只是机器。仅仅因为它们有更多的能力，但这并不意味着它们会发展出意识，因为意识不是智力的一部分。第二种理论认为，我们人类只是生物机器，意识来自我们大脑的力量。如果这是真的，那就意味着机器也会有意识。当另一个物种有智慧、意识和情感时，人类会有什么反应？如果将来发生这种情况，我们需要采取何种立场？这是我研究的出发点。

但除此之外，我做了很多关于AI的研究，以确切地了解它是如何工作的。我参观了许多利用AI进行音乐创作的科学实验室，我看到的一个演示给我留下了深刻的印象。他们把爵士钢琴家演奏的、长达数小时的音乐放入算法中。算法分析了音乐的风格，然后他们得到了这首以真人钢琴家开始的配乐，但在曲目的某一时刻，它转向了算法创作的音乐。这太可怕了，因为你看不出其中的区别。算法准确地分析了人类的演奏风格，并能以同样的方式进行演奏。

我们花了很多时间探索，将来AI会写书吗？它们会讲故事吗？它们会创作音乐以及绘画吗？我们在游戏中加入了许多这样的想法。

问：我总是对AI研究人员的说法很感兴趣，他们正在做些有趣的事情，比如为AI构建伦理小组。他们不是以那种方式开始的。微软取消了著名的AI项目，因为他们已经知道，他们需要以某种方式管理或控制AI。但他们似乎确实在取笑有关AI的小说，比如《终结者》。每个人都说我们在建造“天网”，但这与现实相去甚远。我不知道他们是否认为AI真的存在威胁，需要认真对待，亦或只是想以科学的名义追求它。

凯奇：有个关于AI的故事我非常喜欢。它基于真实的事实，但有少许改变。两个AI创造了它们自己的语言，并开始用一种人类无法理解的方式交谈，因为这是它们自己创造的。与真实情况相比，这个故事有些添油加醋，但我觉得有趣的是，我们可以创造些东西，这些东西会自己学习，甚至学习我们无法理解的东西。当你拥有能够自主学习和发展技能的机器时，你就会开始失去控制。

那么，总体上说，我是否担心这种技术？是的。不过，比起机器，我更担心人类。在《底特律：成为人类》中，我们选择好人是机器人，坏人是人类，这并非巧合。

问：人类总是试图超越彼此，他们会进行竞争，直到超越自己应该做某些事情的程度。

凯奇：关于AI的好消息是，它通常以理性的方式行事，而人类却不是这样。我更关心我们与技术的关系，这也是我们在《底特律：成为人类》中发展的主题之一。我们对科技到底有多依赖？我们对手机有多么上瘾？你有时可以在像餐馆这样的地方看到，几乎每个家人都在查看他们的电子邮件和信息。他们在和不在场的人交谈，而不是和坐在桌旁的人对话。这正是我所担心的事。

我还认为，科技正在改变我们大脑的工作方式。我们需要越来越多的刺激。我们需要更多信息，并总是期待着手机上的回应：“哦，有个信息我需要查看，请稍等。”我们完全依赖技术。我们开始为技术服务，而不是技术为我们服务。

问：我也读过丹·布朗（Dan Brown）的小说《起源》（Origin）。这本书很有趣，因为故事也发生在巴塞罗那。但我认为他有一个有趣的理论，那就是人类正在导致气候变化，并促使地球走向毁灭，如果AI能够接管并限制人类的发展，这实际上可能有助于拯救地球。他预测AI将成长为占主导地位的物种。这可能是未来主义的想法，但在某些方面似乎是合理的。

凯奇：这绝对是有道理的。《底特律：成为人类》中有个角色曾说过：“机器人也是人类，但很完美。”我不知道是否真能这么说，毕竟它只是科幻小说。但与此同时，你会明白机器实际上变得非常实用，非常了解需要做什么，懂得做出妥协，变得理性，而人类则是由激情和情感驱动的。这就是我们管理这个星球的原因，但与此同时，这也是我们可能会导致其毁灭的原因，因为我们无法对某些事情保持理性和务实。

也许一个国家最完美的总统应该是个机器人，因为它们不容易腐败。它们会努力工作，会为大多数人做出最好的决定。它他们不会只是想着再次当选，不会为了得到那份工作而说谎。仔细想想，它们可能是最称职的总统。

问：你认为AI的出现会导致30%到40%的人失业这种说法合理吗？

（编辑：555手机网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!