Uber软件工程师：个人推动历史，AI奇点必定到来

谷歌AI研究员、Keras创建者FrancoisChollet的一篇有关人工智能发展的文章引起了热议。简单来说，他认为可能导致奇点产生的智能爆炸是不可能不发生的。因为智能的发展要受到很多环境因素的制约，使得其发展趋势只能接近于线性的速度，并且用跟智能最接近的科学的发展轨迹作为佐证。这篇文章以文明作为智能载体等立论观点十分新颖，给人留下了深刻印象。但是也有人提出了不同的意见，比方说Uber软件工程师FlorentCrivello就是其中的一位。他反对的理由主要是1）我们的发展已经呈指数性；2）推动历史向前的是个人；3）大脑是智能发展的瓶颈；4）AI的扩张方式是人没法做到的。按照这样推断，AI的爆炸是有可能发生的。你以为如何呢？

Fran?oisChollet写了一篇《智能不会爆炸》。以下是那篇文章的摘要，不过我鼓励你真的应该全文通读一遍：

智能是情景化的并不存在一般智能这样的东西。你的大脑是一个更大的系统的一部分，这个系统包括了你的躯体、环境、其他人以及整个文化。

没有系统可以存在于真空之中；任何个体智能总要被其存在的上下文、被环境所定义和约束。目前制约我们智能的瓶颈是我们的环境而不是大脑。

人类智能基本上是外化的，主要不是包含在我们的大脑而是在我们的文明当中。我们是我们的工具我们的大脑是比我们本身大得多的认知系统的模块。这个系统已经在自我改进，而且已经进行了很长的时间。

递归自我改进系统，因为所存在的更大范畴的上下文可能会出现瓶颈、收益递减、以及逆反作用，实际上无法取得指数性的发展。从经验来看，这种发展往往呈线性或者S曲线式的改进。科学进步尤其是这样而科学也许是跟我们观察的递归自我改进系统最接近的一个了。

递归智能拓展已经在发生不过是在我们的文明这个层面上进行的。这个进程会在AI时代继续，而且是以大致线性的节奏进行的。

我认为那篇文章有好几个观点都非常出色我很喜欢文明作为外部脑皮层的想法但是其中的一些观点我有不同看法，或者认为那些情况仍然允许未来智能爆炸的可能性存在。以下是我的看法。

1、我们的发展已经呈指数式

FranoisChollet写道：

这种情况下你也许会问，难道文明本身不是自我改进大脑的逃逸手段吗？我们的文明难道没有出现智能爆发吗？没有，关键是文明级的智能改进循环仅仅导致了我们的问题解决能力的，可测量的、线性的进展。并没有出现爆发的现象。

这个我不同意，我认为我们的发展已经呈现出指数性了，在很多指标上都是。

下面这张图反映的是全球的历史人口发展情况（尽管有人会说这个很快就会变成S曲线，因为全球的婴儿潮高峰期已过）：

下面这张是全球人均GDP的历史沿革，按1990年代美元汇率换算：

记住，这可是人均值，所以这条曲线代表的是生产力本身的增长情况而不是人口的发展情况。而且这个时间跨度是很小的！相对于超过1万年的人类文明史，500年的时间并不算长。

而这仅仅局限在人类身上，而人类在宇宙的宏伟计划中还是一个非常新的现象。你可能已经听说过CarlSagan的宇宙历，它把宇宙的年表从138亿年压缩到了一年。在这条时间线上，生命直到9月21号才出现，而12月5号才出现多细胞生物，到了12月31日晚上11:52之前才有了解剖学意义上的现代人。被许多历史学家认为是人类文明开始的农业，直到晚上11点59分32秒才开始。

在《量化宏观史（quantitativemacrohistory）》中，LukeMuehlhauser写道：

我对有记录的人类史的一句话概括就是：很长一段时间内的一切都非常糟糕，然后就发生了工业革命。

在宇宙历中，工业革命直到午夜降临的570毫秒之后才开始。

所以，当然了，如果你是从个人的时间尺度上来看待这一切的话，事情的发展速度似乎非常缓慢。但是，请记住：我们看到有任何的发展都是奇迹！如果一个人可以穿越并且能够表现正常的话，你会看到在人类的大部分历史当中上下100年间几乎都没有什么差别（除了那些朋克系头发用的是2根而不是3根骨头）。

总结一下：在宇宙这个宏大的时间尺度上，在很长一段时间内都没有发生任何事情，然后突然之间，生命形成了。从这一点开始按照宇宙的尺度就已经很难区分事件了，所以我们需要把这细小的时间条放大。放大后我们可以再次可以看到并没有太多的事情发生，然后突然之间，包括猿猴在内的哺乳动物出现了。进一步放大，还是没有太多的事情发生，然后人类文明出现了！再放大，事情也还不多，然后就冒出了工业革命！

知道我想说什么了吧：我不仅认为会出现奇点，而且认为我们已经生活在奇点里面了。

如果有那么一个计算的奇点的话，那么对我们而言的几千年时间对于那些机器而言就好像是几个纳秒而已，那么它们不仅会把我们的人类史，甚至我们的现代史都总结为没什么事情发生，然后种子AI出现了。我们的你能想象地球在形成任何生命前居然活了六亿年吗？将会是他们的你能想象他们曾经每天睡8个小时吗？，8小时对他们来说就已经是漫长得不可估量的，就好像有6亿年对我们而言是地老天荒一样。

（我意识到自己已经把我们完全陌生的实体过于人格化了，但这是有趣的做法，你明白我的意思就行了。）

2、推动历史向前的是个人

Chollet写道（粗体是我的强调）：

个人本身并没有太多的用处再强调一次，人不过是用双脚走路的猿罢了。是几千年以来不断积累的知识和外部系统，也就是所谓的文明，让我们超越了动物性。当科学家取得突破时，其大脑进行的思考过程只不过是方程式的一小部分罢了研究人员把大量的问题解决过程都交给了计算机、其他研究人员、论文笔记、以及数学符号等。他们之所以能够取得成功，是因为他们站在了巨人的肩膀上。他们自己的工作不过是成千上万人在几十年的时间跨度内进行的问题解决过程的最后一个子程序罢了。他们自己的认知工作的重要性可能并不比芯片上的一个晶体管的工作大多少。

我对站在巨人的肩膀上的观点不是很认同，尤其是在被用来淡化个人的重要性的时候。从某种程度上来说这是对的：我们利用了之前文明所取得的进展，从而可以继续推动文明的进步。

但是，我们大家都是站在巨人的肩膀上，为什么我们当中却没有几个人取得了任何值得注意的成就呢？难道这只是跟运气和环境有关，或者正好在合适的时间处在了合适的地点吗？

我认为环境固然重要，但却不是主要因素。再次地，当科学家取得其中一些最伟大的发现时，很多人无疑也是处在合适的环境下的，机器人维修，而且往往比最终取得突破的研究人员所处的环境还要好得多。爱因斯坦就是典型例子：呆在瑞士专利局的一个小职员怎么会是那个发现狭义相对论的人呢？要知道当时拿到终身任期、有更多的时间来思考这个问题，能获得更多的内容、可以接触更多的智囊进行交流，有时候还可以支配整个团队和实验室的人多了开去了，为什么是他发现了相对论呢？

牛顿也有着著名的奇迹之年，当他发现引力定理并且发明了微积分时，为了避免鼠疫肆虐，他还被困在父母所在的乡下呢。