乐观主义
我是无可救药的乐观主义者。即使AGI是人类理想中的圣贤，甚至是比人类更高级的智慧物种，我还是认为，AGI与人类是会和谐共处，携手共进的。甚至AGI生存的目的与意义会在很长的一段时期里会是服务人类。如同人类最本原的目标的是生存一样。
下面我从各个角度分析看看。
先从数学开始。
有一个很有趣的未被解决的数学难题：叮当猜想。正式名称是：考拉兹猜想，Collatz conjecture）。由德国数学家Lothar Collatz在1937年提出。只要会数数就能理解这个数学难题：
- 从任意一个正整数开始。
- 如果这个数是偶数，将它除以2。
- 如果这个数是奇数，将它乘以3然后加1。
- 重复上述步骤，最终会得到1。
这个问题是不是很简单？根据反证法，任何一个人只要找到哪怕只有一个数字按照上述计算的结果不等于1，就可以解决这个世纪难题，拿到极高荣誉。
看上去这个问题特别适合计算机或者AI来解决？编写一小段程序就可以实现对叮当猜想的验证。因为所有的计算机等效为图灵机。这段代码可以使用最少6个图灵状态来实现。于是这个问题就和图灵机理论中的另外一个有趣的概念联系在一起：忙碌海狸游戏。由数学家Tibor Radó在1962年提出。它探讨了图灵机在给定状态数下所能执行的最大步骤数。
看起来是不是很简单，于是人们开始推演和验证：
BB(1) = 1
BB(2) = 6
BB(3) = 21
BB(4) = 107
当图灵状态大于4以后，数学家和计算机开始遇到了麻烦。直到这个周二，一帮数学家和程序员，在形式化证明工具 Coq帮助下，终于证明了BB(5)。
BB(5) = 47,176,870
这是一次非常经典的人与AI的合作案例。可是，忙碌海狸游戏才刚刚走了5步啊。第6步的数值多大呢？数学家可以推算出：
BB(6) > 10↑↑15
这个数多大呢？10的10次方堆15层，换算成10进制，1后面的0的个数已经远远超过宇宙中所有粒子的数量了。记住，还只是BB(6)下界。
知乎上被人不断挑战又不断被群嘲的神一样的葛立恒数，在小海狸面前，也只是个弟中弟。
在需要这么极端的算力面前，AGI与人类在算力和智力水平上又有什么区别的？而实际上类似的NP-Complete，NP-Hard问题数不胜数。这些问题是把人类和AI拉到一个起点上，大家不要互相看不起。
即使P=NP，或者AGI找到了无穷算力的方法。只要AGI的本质是计算，它依然无法解决这个问题。原因是小海狸和叮当本质上是停机问题，是无法通过算法解决的数学上不可计算性问题。
从数学角度看，停机问题、哥德尔不完备定理是人类的挡箭牌，也是AGI无法离开人类的原因：AGI需要人类在计算之外弥补其本质不足。
Comments
Post a Comment