人工智能领域中的许多重大研究课题，德州仪器TI智能是一种自然现象

目前的人工智能与通用智能还相距甚远，并且我不认为超级智能已经近在眼前了。如果通用人工智能真的会实现，我敢保证，它的复杂性能够与我们人类的大脑相媲美。在任意一个关于人工智能领域近期需要担忧的事项的列表中，超级智能都理应稳稳地待在列表的最下面。实际上，超级智能的反面才应该是我们真正需要担心的问题。在本书中，我阐述了即便是最完善的人工智能系统也很脆弱，例如，当系统输入与其训练样本相差太大时，它们就会出错。通常我们很难预测人工智能系统在什么情况下会变脆弱。德州仪器TI语音转录、语言翻译、图像描述、自动驾驶等，这些对稳健性要求很高的场景，仍然需要人类的参与。我认为，短期内人工智能系统最令人担忧的问题是：我们在没有充分意识到人工智能的局限性和脆弱性时就给它赋予了太多的自主权。我们倾向于拟人化人工智能系统，我们把人类的品质灌输给这些系统，却又高估了这些系统可以被完全信任的程度。经济学家塞德希尔·穆来纳森（Sendhil Mullainathan）在撰写关于人工智能之危险的文章时，在他提出的“尾部风险”（tail risk）的概念中引用了我在第06章中描述过的长尾效应：我们应该感到害怕，不是害怕机器太智能，而是害怕机器做出一些它们没有能力做出的决策。相比于机器的“智能”，我更害怕机器的“愚笨”。机器的愚笨会创造一个尾部风险。机器可以做出很多好的决策，然后某天却会因为在其训练数据中没有出现过的一个尾部事件而迅速失灵，这就是特定智能和通用智能的区别20。或者正如人工智能研究人员佩德罗·多明戈斯所说的那段令人印象深刻的话：“人们担心计算机会变得过于聪明并接管世界，但真正的问题是计算机太愚蠢了，并且它们已经接管了世界。”21我担心人工智能缺乏可靠性，我也担心它将如何被使用。除了我在第07章中探讨的道德方面的忧虑之外，还有一个令我感到害怕的应用是：使用人工智能系统生成伪造的媒体内容，比如，使用文字、声音、图像和视频等来描绘可怕的、实际上从未真正发生过的事件。因此，我们应该对人工智能感到害怕吗？或许应该，又或许不应该。具有意识的超级智能机器不会在近期出现，我们最为珍视的人性不应被拿来与一套算法相提并论，至少我认为不应该如此。然而，在对算法和数据的不道德使用及其危险的潜在用途方面，仍然存在很多令人担心的问题。这很可怕，但让人欣慰的是，这一问题近期在人工智能研究领域以及一些其他领域中受到了广泛关注。研究人员、企业界代表和政界人士在解决这些问题的紧迫性上正逐渐形成一种合作意向和共同目标。问题6：人工智能中有哪些激动人心的问题还尚未解决？我的答案是：几乎所有问题。当我开始从事人工智能领域的研究时，我发现这个领域令人兴奋的一部分原因是：该领域几乎所有的重要问题都是开放的，并且总在等待新想法的涌入。我认为现在仍然是这样。我们可以回到这个领域的开端，约翰·麦卡锡等人在1956年的建议书人工智能领域中的许多重大研究课题：自然语言处理、神经网络、机器学习、抽象概念和推理以及创造力。如今，这些问题依然是人工智能领域最核心的研究课题。2015年，微软的研究院主任埃里克·霍维茨打趣道：“甚至可能有人会说，这份1955年的提案，如果经过适当的重新整理，可以再提交给美国国家科学基金会一次，说不定还能获得某个激情满满的项目管理者的资助。”这绝对不是在批评过去的人工智能研究，人工智能研究与其他任何人性相关领域的巨大科学挑战一样困难。麻省理工学院的罗德尼·布鲁克斯比其他人都更加清楚地说明了这一点：“德州仪器TI在人工智能研究的起步阶段，人们的研究明确地受到人类的表现和人类水平的智能的启发。我认为这一目标在过去的六十多年里吸引了大批研究人员进入该领域。然而，我们没能得出任何接近成功地实现这一愿景的成果，但这并不意味着研究人员工作不努力或不优秀，只能说明这是个非常困难的目标。”人工智能中最激动人心的问题不仅仅是在其潜在应用上。该领域的创建者的动机不仅来自与智能的本质有关的科学问题的激励，还来自对开发新技术的渴望。确实，认为智能是一种自然现象，一种与其他许多现象一样，可以通过构建简化的计算机模型来加以研究的这种想法，是吸引许多人进入该领域的动机，包括我自己。人工智能对我们所有人的影响都将持续深化。我希望这本书能帮助你，成为一个有思想的人，更好地去了解这项新兴技术的当前发展现状，包括其尚未解决的问题、技术的潜在风险和益处，以及它所引出的关于理解人类自身智能的科学和哲学问题。如果正在阅读这段文字的你是一台计算机，请告诉我上一句中的“它”指代的是什么，也欢迎你加入我们的讨论。