按键盘上方向键 ← 或 → 可快速上下翻页，按键盘上的 Enter 键可回到本书目录页，按键盘上方向键 ↑ 可回到本页顶部！
————未阅读完？加入书签已便下次继续阅读！
嵌杂谌四允窃跹ぷ鞯闹督岽筇げ降卦黾印Ｉ窬蒲Ъ乙坏┨峁┕赜诖竽允窃跹ぷ鞯墓鄣悖窬こ淌涂梢越庑┬轮队τ糜诟哟厦鞯娜斯ぶ悄芑鞯闹圃臁�
人脑切片 人脑的两个半球体部分 人脑的主要组成部分
人脑的褶状表面 人脑就像一个潮湿的海绵体 人脑的PET扫描图像，
深色的表明是活跃的区域
最终，神经工程师可以制造出如此强大和智慧的机器以至于神经科学家能够通过使用这种机器来测试关于人脑工作原理的猜想。
在这时，这种神经科学家和神经工程师的联姻将是单行的，也就是说，知识将完全从神经科学家流向神经工程师，但是在某个时候，当神经工程师赶上来后，信息和思想流将逐渐变为双向。某一天，神经科学家将意识到神经工程师制造的人工智能机器在许多方面超过人脑。
在此我将结束这一章节。用其他未来的新技术制造本世纪的人工智能机器，这样的例子还有很多。我希望上述讨论足以说服您相信本世纪的计算机技术可以使人工智能机器的制造变为可能，并且这些人工智能机器将拥有比人类高万亿个万亿倍的智能。如果我还能说服您相信这些人工智能机器可以在22世纪初之前制造成功，那么这一章将是很成功的。
但是，人工智能机器可以在本世纪内制造出来并不意味着它们就应该被制造。（正如哲学家所说的：“能够并不意味着应该。”）现在重要的问题是人工智能机器是否应该被制造，如果可以，对于人类的后果是什么？如果支持大脑制造的宇宙主义者确定要制造人工智能机器的话，将会发生些什么呢？
本书接下来的部分将试图解答这些问题。
这章在本质上更技术性和科学性一些，后面的章节更多的是社会的、政治的、哲学的、伦理的，甚至是更宗教的，因而更适合阅读。第4章和第5章将分别介绍宇宙主义者和地球主义者。
写在前面的话
在本章，我想提出一些你们在读本书时可能碰到的问题。也许你对我的一些论述持怀疑态度，或者是觉得我忽略掉了某些东西。本章将试图预测一些你的反对意见。通过讨论这些反对意见，很有可能加深前面章节的论述。这些问题、意见有多处来源。有些来自于我自己，有些来自于我的朋友，但是大多数来自于那些与我有多年接触的人，那些在我的网站上读过初稿的人，以及那些看过有关我的报道或电视节目的人。某些反馈非常重要，所以如果你有同样的反对意见，并且发现我的反驳有说服力的话，你也会被说服的。
问题1 人工智能发展的时间问题
问题1。 “时间问题——如果人工智能发展得太快以至于关于人工智能的辩论来不及展开将怎么办？”
在所有我收到的问题里面，这个问题是让我考虑得最多的。我认为，这是一个基本的批判意见。这个问题是如此重要以至于我在第6章讨论“奇点”的时候已经涉及到了。本质上来说，这里所争议的是，如果人工智能的崛起太快了，就没有足够的时间在社会上产生的宇宙主义－地球主义的分化，因此，本书的这个论点不成立。没有这样的分化，将不会有人工智能辩论，也没有人工智能战争。
来信
亲爱的德·加里斯教授：
通过CNN（美国有线新闻台）网站的一个链接，我最近接触了您的《关于超级智能机器的道德困境》的文章。我着迷于阅读这篇文章，虽然我在这些领域不是一名专家，我敢说在大多数方面我赞成您的观点。然而，有一点让我感到有些前后不一致，请您原谅我这样说。这点就是您对于“地球主义者”和“宇宙主义者”的看法。要产生两派之间的争斗，制造电子大脑的一派应该已经获得了某种进展，也许电子大脑已经存在了。这就是我在您的论文里发现的矛盾之处。被宇宙主义者保护和培育的人工智能机器的存在不会使两派之间的争论显得多余吗？我同意您的观点，那就是电子大脑将以指数速度发展进化。因此，它们是否会发展成对人类充满敌意的物种问题马上就会有答案，以至于“宇宙主义者”和“地球主义者”的主要智囊们没有机会来完成他们的论述和争论。这将发生在他们考虑发动战争之前—— 假设这些“人类”智囊们是合理程度的文明。我希望我的看法不会以任何方式冒犯您，并且我将很愉快地聆听您对于这个问题的看法。
回答
我赞同你的主要观点。我把这点重新表述为——“如果电子大脑（人工智能）以（快速的）指数速度进化发展，也就是说在未来几十年内达到或超越人类的智慧级别，那么将没有足够的时间产生地球主义者－宇宙主义者的冲突，人工智能战争也不会产生。”我确实认为人工智能是以指数速度进步的，但是不至于如此的迅速以至于没有足够的时间产生人工智能的辩论和发起人工智能战争。
我认为其中的原因是由于制造真正人工智能的任务是非常困难的，并且可能需要几十年的时间来完成。在目前，我们对于人脑的工作原理、记忆的本质是什么、思维是什么、我们是如何推理等所知甚少。在人脑内有千万亿个神经键（神经元之间的联系），清楚地表明人脑结构是如何的超级复杂。我猜想，关于人类在神经科学研究领域的进步最现实的情景就是，从现在开始将至少需要50年的时间来在人工大脑制造上取得真正的进展，但之后的进展将相对缓慢（虽然也是指数级别的）。
我认为，早期的人工智能机器所表现出来的智慧足以引起地球主义者的警觉。像我这样的一些人将会提醒大众某些事情即将发生，但是我认为之后的进展将不会非常迅速，因为对于大众来说，反应的时间将非常有限。当公众从他们的家用产品中看到智能的真正迹象时，将不需要很多年的时间来反应。我认为对于公众和政府来说，如果他们真正地察觉到对于他们的物种支配甚至生存存在着真正的和强烈的威胁时，5到10年的时间将足够让事情有所进展。
同样，当那些有意识的大脑制造者们认为实验室内的进展证实威胁确实存在的时候，他们将毫不迟疑地警示大众。例如，我，倾向于让公众清楚地了解世界上人工智能的发展现状，即使它们目前还处于比较原始的状态。大脑研究制造者们处于这样的一个位置，能够第一个知道正在发生些什么，因为正是他们在制造这些东西。
我认为从道德上来说，我们有一种义务来告诉公众正在发生着的某些事，以便公众有时间来反应，来防止如此的情况发生，即人工智能的指数级别的智慧增长曲线比大脑制造者的预计还要迅速。我同样认为大脑制造者们应该现在就警示公众，而不是等待人工智能机器拥有真正智慧的第一个征兆出现。这样就可以给予公众更多的时间来反应，但是当然，如果公众看不到真正智慧的证据，那么，他们会认为研究者们是在喊狼来了，且因此忽视他们。
大脑制造者们需要告诉公众指数曲线的特征，那就是在水平轴上每一单位的增长对应垂直轴上高度的两倍增长。这样的曲线可以开始得非常缓慢并且在低水平上保持很长的时间，然后突然快速增长。举个例子，考虑下面的“倍增”曲线图，它列举了对于水平轴上每一单位在垂直轴上的高度—— 0。1，0。2，0。4，0。8，1。6，3。2，6。4，12。8，（都是小值，但是……）25。6，51。2，102。4，204。8，409。6， （开始攀升）819。2，1 638。4，3 276。8，6 553。6，（开始暴增）…104 857。6，209 715。2，419 430。4，（爆炸性的数字）…（无穷大！！）
如果介于a）人工智能的最初迹象和 b）爆炸性指数级别的人工智能增长之间（称作“爬升阶段”）只是几年的时间，那么，将不存在人工智能的辩论和人工智能战争（除非是爆发了人类和人工智能机器的物种主导之战）。但我认为，由于大脑制造本身的复杂性，这段时间，即所谓的“爬升阶段”，将有几十年之久。这对于公众来说将有足够的时间来反应、来辩论，并且形成宇宙主义和地球主义的分化。
问题2 什么是半机器人
问题2。 “那么第三群体—— 半机器人是怎么回事呢？”
相当多的人写电子邮件给我，说我在人工智能辩论中对于第三类人，即除宇宙主义者和地球主义者之外的所谓的“半机器人”（生控体系统）的重要性低估了。半机器人是一种半人半机器，也就是说通过附加人工智能计算机成分到其大脑的生物。下面是对于此种人类的经典评论。它出现在把人脑的内容下载到人工智能机器的思想之后，并且从此来观察人工智能的发展。
来信
亲爱的德·加里斯教授：
我以浓厚的兴趣阅读了您关于人工智能的大作（《关于超级智能机器的道德困境》）。诚然，作为一个不够格的评论者，我认为第三类群体（或者说是小群体），也就是半
机器人，它们的重要性被低估了。对我来说很显然，随着越来越多可行技术的发明，人类将准备在思维和身体上扩展自身。我预言，将出现一个缓慢的淘汰人类自然形式的过程，从而形成一群不可思议的拥有各种各样重组基因的半机器人。
回答
当我最初思考21世纪人工智能崛起的政治含义的时候，我确实考虑了把社会划分为三类主要团体，而不是两类。也就是说，宇宙主义者、地球主义者（两者都是人类团体）和半机器人（半人半机器）。对此我思考了一段时间，就像前面一些章节所讲的对于妥协的一些衡量，我决定否定它，让问题简单化，也就是说只有两大主要团体。我可以很容易地把半机器人作为子团体而归纳到宇宙主义者团体。
另一个主要原因就是，我预言随着半机器人通过对自身添加更多的人工智能机器成分，它们会变得越来越不像人类而更像纯种的人工智能机器，也就是说没有任何人类成分，地球主义者们将以人工智能机器的身份对待它们，并且像对待宇宙主义者一样仇视它们。我在第5章关于地球主义者“对于半机器人的不信任”的论述中已经提到这些。
第三个理由主要是关于数字的问题。一个小行星大小的人工智能机器将会拥有1040个成分（原子）。这将使人类可怜的1010个神经元相形见绌，以至于那些决定让自己逐步转化成人工智能机器的人类和那些全新制造的“纯种”人工智能机器没有丝毫的区别。因此，去区分人工智能机器和高级半机器人，至少从地球主义者的角度来看没有太大的意义。
然而，我确实同意这样的评论，那就是在转化阶段，即当人工智能机器不是非常强大，并且没有比人类聪明很多的时候，半机器人的总体性能中人的部分与人工智能的部分可以明显区分开来。在这样的情形下，区分半机器人和人工智能机器将是有用的。然而，当人工智能机器在大小和智能（因为更多的智慧通常需要更多的物质）上变得超出一切的时候，这样的区分将变得毫不重要。
来信
亲爱的德·加里斯教授：
当您谈到计算机取代人类的时候，您是否