人工智能的发展速度，德州仪器TI机器将很快变成超级智能

如果计算机达到通用的、人类的水平，这些机器将很快变成超级智能的，整个过程类似于古德对“智能爆炸”的预言，这种观点认为：一台具有通用智能的计算机将能够以闪电般的速度阅读人类的所有文件，并学习目前可知的所有知识。同样，它将能够发现，通过自己不断增长的推理能力，所有的新知识都可被它转化为自身新的认知能力。德州仪器TI一台这样的机器不会受到人类那些令人懊恼的弱点的限制，如人类思维和学习的迟缓性、非理性、认知偏见、对无聊事务的低忍耐性、对睡眠的需求以及各种情绪，所有这些都妨碍了创造性思维的产生。按照这种观点，一台超级智能机器将具有一些接近“纯粹智能”的东西，不受任何人类弱点的限制。在我看来更有可能的是：这些所谓的人类局限性，正是构成我们人类的通用智能的一部分。在现实世界中劳作的躯体、我们进化出的能够让人类作为一个社会组织来运行的情绪和非理性偏见，还有所有其他偶尔被认为是认知缺陷的品质给我们带来的束缚，实际上正是让我们成为一般意义上的聪明人而不是狭隘的博学之士的关键。我无法证明这一点，但我认为通用智能很有可能无法剥离所有这些人类的或机器的明显缺陷。侯世达在其“GEB”一书的“10个问题和推测”部分，使用了一个看似简单的问题来回应这个问题：“一台会思考的计算机能够快速计算加法吗？”他给出的答案是：“也许不会。我们自身是由可进行复杂计算的硬件组成，但这并不意味着在我们的‘符号级别’（symbol level），即‘我们’本身知道如何执行同样复杂的计算。幸运的是，你的符号级别（即‘你’）无法访问你现在正在执行思考任务的神经元，否则你会变得头脑糊涂，为什么对一个智能程序不应是同样的呢？”侯世达接着解释说：“像我们人类一样，一个智能程序会将数字表示成一个完备的、充满关联的概念，有了所有这些需要随身携带的额外的‘负担’，一个智能程序在执行加法时就会变得相当迟钝。”19当我第一次读到这个答案时，我感到很惊讶，但现在我觉得它很正确。问题5：我们应该对人工智能感到多恐惧？如果你对人工智能的看法来自电影和科幻小说，甚至一些流行的非科幻小说作品，那么，你可能会害怕人工智能变得有意识、恶毒，甚至试图奴役或杀死我们所有人。考虑到我们距离任何通用智能都还很遥远，所以，目前这些问题并不是人工智能领域的大多数人所担心的。正如我在本书中描述的那样，当下社会对人工智能技术的不假思索地接受，存在以下风险：造成大量人失业的可能性、人工智能系统被滥用的潜在风险，以及这些系统在面对攻击时的不可靠性和脆弱性。这些仅仅是人们对技术可能对人类生活产生影响的一些非常合理的担忧。我以侯世达对人工智能之最新进展感到惊慌的一段见闻作为本书的开始，但在很大程度上，令他感到恐惧的是完全不同的事情。侯世达担心的是：人类的认知能力和创造力变得如此轻易就能被人工智能程序习得，从而使得他最为珍视的基于人类思想的崇高创作，如肖邦的音乐，可被像是EMI那样的人工智能程序使用的那套肤浅的算法替代。侯世达感叹道：“如果这种无限微妙、复杂且情感深厚的思想会被一块小小的芯片所简化，这会摧毁我对人性的理解。”侯世达同样对库兹韦尔关于即将到来的奇点的预测而感到困扰，他担心如果库兹韦尔的这种预测从任何一方面来说是正确的，那么我们将被取代，我们将成为遗迹，我们将被尘埃淹没。我对侯世达的这些担忧有同感，但我认为它们的到来还为时过早。最重要传达的观点是：我们人类倾向于高估人工智能的发展速度，而低估人类自身智能的复杂性。