雨果：机器人其实就是一堆钢铁

雨果教授：当人工智能超过人类智慧该怎么办

　　主持人：看来这个危险还是有可能发生的。其实我们还可以注意到最近有一个比较有意思的新闻，就是今年上半年韩国信息通信部预测，2015年至2020年间，每个韩国家庭将拥有一部机器人，而韩国政府则表示将起草世界上第一份机器人的《道德宪章》，以防止人类与机器人之间的虐待和伤害，尤其是要保护机器人的权利。既然未来的机器人可能会给人类带来潜在的威胁，您觉得我们有没有必要去保护机器人的权利呢？

　　雨果(翻译)：首先稍微纠正一下，我做的这个不是叫机器人，机器人其实就是一堆钢铁，但是我讲的是一种人工智能，就像我们大脑的这样的东西。所以说未来这样一个人工智能，这样的机器可能会超越我们的智慧，大概上百万的超过我们的智慧，而且这也不是一个很遥远的梦，可能会在一瞬间，在20年之内就会来到我们面前。

　　但是有一个问题，我们现在讲如何保障机器人的权利问题，但是这个还只是在机器人的智能低于我们时候的这样一个话题，但一旦智能机器人超过了我们智慧的话，那时候问题是这样吗？到底谁给谁保护的权利？那时候我们应该考虑我们怎么从机器人那里获得权利，这时候我们和机器人的位置就完全颠倒了，这也是一个政治问题，也是一个宗教伦理问题，我们人类要不要选择制造这样一个超级智慧的智能机器人？我们（人类）是不是甘心做第二位？我们（人类）一直是第一位，但是我们是不是要下定决心让出第一位，让给智能机器人。

　　主持人：刚才我们聊了很长时间关于雨果先生的一些预言，感觉很沉重，当然我们也不希望这种灾难发生和到来。接下来我们请雨果教授来聊一聊技术上的问题，并回答一些网友的提问。我们知道您开创了可进化硬件的研究领域，是进化硬件和进

　　雨果(翻译)：首先这是一个非常热门的研究话题，美国、欧洲以及日本这些国家的学者都在研究相关的问题，这样一个技术最早想到能进行这个技术应用的实际是日本，日本做得是比较好的，他们把各种芯片植入到一些机器里面去，试图进行这样一个应用。

　　另一方面，这样一个可进化硬件从我们将来来看，它是一个非常有实际作用的成果，它就像一个细胞分裂这样，因为它完全就像一个胚胎制造，我们有个专业属于叫胚胎制造，就是属于细胞分裂，由一个细胞分裂为两个，两个分裂为四个，这样一个过程，然后他们不停地分裂，体积增大，就像人一样，人慢慢成长为胎儿，然后成形成人，是这样一个过程。这样来看，我们要想造这样一个非常具有智能化，非常复杂的人工大脑的话，第一个就是需要一个胚胎制造的技术，再一个就是要一个可进化硬件，这两个都是必要的。

　　网友：请问雨果教授，这种智能机器的进化是硬件上的进化还是软件上的进化？

　　雨果(翻译)：简单说都有可能的，我们既可能从硬件上进行进化的设计，也可能进行软件上的设置，都有可能的。作为个人，我主要是从硬件方面考虑进行这样一个研究的。

　　网友：请问您研制出来的智能机器有没有可能自发产生类似于人类繁殖的欲望？想自己制造成一个机器人宝宝，并把宝宝称作为“儿子”或者“儿女”。

　　雨果(翻译)：按我们在生物界来说，一切生物都是必须要繁殖繁衍后代的，如果不这样的话就会灭亡。但是这样一个智能机器我们从长远来看，他也确实可能有这种想法，当然这个也不是一概而论，比如他们想进行宇宙开发这样的事情，希望有很多的儿女，这时候可能他们就选择繁殖，有很多后代。刚才也多次提到当真正的智能机器人超过我们智慧的时候，这时候我们就无法控制他们，你不知道他们想要什么，因为他们太聪明了，有可能他们是我们的主人了，所以我们就无法知道他们具体想什么了。

雨果教授和他的《智能简史》

　　网友：人工智能是否可以产生感情、善良等文明性的思维？

　　雨果(翻译)：我觉得这个也是可能的，但是这个也是涉及到哲学伦理方面的问题，因为我不是哲学家，我坐在这儿的目的就是劝那些哲学家们能够认识到这个问题，就是我们认识到这样一个庞大的问题，我现在的理论是处在一个起步的阶段，我推广这个理论也花了好几年，一直在推广这个新的理论，具体来说我对哲学方面的东西，比如针对人类思维真的不是很了解，我们现在考虑的问题都是站在我们人类的基础上进行考虑，按照人类的哲学伦理来考虑，但是一旦他们有了自己的智慧之后，超过人类智慧之后，他们会形成一个怎样的思考方式，形成一个怎样的思维，这是我们无法预知的。因为如果有这样一天的话他们就远远超过我们了，我们就无法知道他们考虑什么了，所以我们是不是要冒险制造这样一个人工智能。

　　主持人：由于我们今天时间的关系，我们的聊天马上就要结束了，最后我们非常欢迎雨果先生来到北京、来到新浪网，我想再请雨果教授最后对网友谈一谈关于人工智能我们应该有一个怎样的认识？

　　雨果(翻译)：雨果先生还是对刚才我们如何看待人工智能的问题一再强调，现在人的智慧还是远远超过智能机器人的智慧，智能还是处于相对低的水平，人类拼命想让他们发展，不停提高他们的智慧水平，这时候我们会增加很多劳力，创造很多的经济效益，这是非常非常好的。

　　但是当我们把这种智能机器人的智慧发展到一定程度的时候，接近我们智慧的时候，这时候我们就在人类中出现了分化，有些人认为这时候我们应该停止了，要不然再发展的话他们就会超过我们，就会引起灾难；而另外一些人他们认为发展得越来越好，以至于大大超过我们也是没有关系的，所以有可能形成这样两派人的争论，而且很有可能因为这样意见的分歧爆发战争，所以这是一个非常悲观的预测，可能会爆发战争，而且可能会持续十几年、二十年左右的这样一个时间，就像当初美国南美战争是差不多的。

　　最后再解释一下，为什么我现在来到北京做关于这方面的研究和宣传，主要是因为我觉得21世纪中国是非常有希望的，我觉得21世纪是中国的世纪，所以我希望能够把这样一个非常前沿性的话题带到中国来，让大家也能了解一下。

　　主持人：感谢雨果教授，由于今天时间的关系我们的聊天就到此结束了，大家如果对于雨果教授还想进行深入了解的话，也可以看雨果教授的新书《智能简史》，今天的聊天到此结束，再次感谢雨果教授！

　　雨果：非常感谢！

　　雷国庆：谢谢！

　　(本次访谈结束）