为什么人工智能比我们想象的更难？

神经网络 25/05/2021

三个要点
✔️ 对人工智能的理解中的四个谬误
✔️ 人工智能的历史趋势：春天和冬天
✔️ 需要建立一个具体的情报理论

Why AI is Harder Than We Think
written by Melanie Mitchell
(Submitted on 26 Apr 2021 (this version), latest version 28 Apr 2021 (v2))
Comments: Accepted by arXiv.
Subjects: Artificial Intelligence (cs.AI)

code：

首先

过去十年，人工智能领域取得了巨大的进展。深度学习的发展给人工智能界带来了新的希望，这导致了无数创业公司的诞生，研究兴趣和资金的增加。许多人工智能专家、首席执行官和著名技术专家认为，"真正的 "人工智能要到几十年后才会成为现实"。2020年，我们将成为永久的后座司机"。这是五年前 "卫报 "的说法。还有其他几个像这样的乐观预测"。到2020年有1000万辆自动驾驶汽车上路"，《商业内幕》2016年。但实际上，自动驾驶的问题比我们想象的要困难得多。

这种乐观态度使一些人工智能专家认为，1970年代和1980年代的"人工智能。泉"。在1960年，赫伯特-西蒙推广了 "在20年内，机器将能够完成人类能做的每一项工作 "的观点。然而，这两个"人工智能。泉"。热情并没有持续很久，随着该领域的进展逐渐减少，研究资金被大幅削减，对真正的人工智能的信心也被削弱。现在的问题是。"人工智能。春天"将永远持续下去，并导致真正的人工智能，还是我们正在走向另一个冬天？

这是一个过度自信的时代。春天"和一个进展停滞的时期"AI冬天。"本文介绍了背后的四个主要原因了解这些谬误的原因可以帮助推动人工智能研究朝着正确的方向发展，并更接近真正的人工智能系统。

论通向真正人工智能之路的谬误

谬误1：狭义的智力与一般智力是连续的。

当一台计算机完成了一项任务，使它在某种程度上显得很聪明，比如IBM的深蓝击败了国际象棋大师，AlphaGO击败了围棋世界冠军，或者GPT-3写出了一篇大学论文，它就被冠以通向一般智能的垫脚石。常识告诉我们，通过这样的持续改进，有可能达到一般的智能。然而，一般的智能并不类似于今天机器的有限智能，而且同样有可能通向它的道路可能是相当不同的。

谬误2：易的就是易的，难的就是难的。

人们普遍认为，人工智能可以更好地完成人类可以轻松做到的事情。如果识别一个人的脸需要100毫秒，那么人工智能系统应该能够做得更快，而谷歌的FaceNet实际上就是这样做的。计算机可以轻松地处理两个明显有难度的游戏。例如，国际象棋和围棋。但是对于人类来说，学习简单的单词和走动是一个问题。这是连两岁的幼儿都能轻松做到的事。因此，还有另一种思维方式：容易就是困难，困难就是容易。因此，当我们将围棋描述为 "最困难的领域 "时，我们需要清楚地问 "对谁来说是困难的？

我们自己都不知道我们自己的思维过程的复杂性。数十亿年的进化对大脑的感觉和运动区域进行了编码，使行走等困难的事情看起来如此容易。用马文-明斯基的话说，"一般来说，我们最不了解我们的头脑（思想）最擅长什么。

谬误3：一厢情愿的想法和有吸引力的记忆技巧。

人工神经网络的确是基于大脑的图案。但人工神经网络的工作原理与实际大脑的工作原理非常不同；IBM表示，IBM Watson可以 "阅读和理解七种语言的上下文和细微差别"，但这并不意味着机器 "实际上 "以人类理解语言的方式做到这一点。事实上，沃森并不像人类那样有 "游戏 "或 "胜利 "的概念。这样的解释是针对那些不知道背后发生了什么的外行人。这种充满希望和吸引力的记忆技巧会提高公众对项目的热情，但这将使他们过于乐观。

这些例子包括斯坦福问题回答数据集、RACE阅读理解数据集、通用语言理解评估以及其他当前的深度学习。基准。在这些数据集中，NLP模型已经超过了人类水平的表现，但需要注意的是，用来衡量这些模型表现的指标以及任务本身都非常有限。这些基准只测试了一套有限的QnA、阅读和语言理解技能，在这些任务中表现良好的模型不能成功地推广到其他任务中。普通公众基本上没有意识到这种有限的认识。

谬误4：智力全在大脑中。

心灵（思想）的信息处理模型认为心灵是一个类似于计算机的信息处理系统，有输入、输出、记忆和处理等部分。它假定认知只发生在 "物理大脑 "中。人工智能的符号学方法，甚至是最近的神经网络，都假定大脑是一个信息处理系统。这一假设导致人们相信，如果使用合适的软件将机器适当放大以匹配大脑的计算能力，就可以实现人类水平的性能。根据深度学习的先驱杰弗里-辛顿(Geoffery Hinton)的说法，从理论上讲，一个类似大脑的人工神经网络如果有数万亿的连接到一个人工神经网络将能够理解文件。

"通用智能 "系统被认为没有情感、非理性、饥饿、需要休息等问题，同时能够保持准确性、速度和可编程性等品质。这样一个完全理性的人工智能模型自然会让人考虑它们对人类构成的生存威胁。例如，一个超级智能系统，鉴于防止全球变暖的目标，可能会决定摧毁人类。

然而，许多认知科学家主张身体在所有认知活动中的中心地位，称为体感认知。我们的思想和智力与我们的感知、行动和情感有着深刻的联系。我们的许多抽象概念都植根于我们与物理世界的互动中。孤立地、独立地思考智力是正确的吗？难道情感、欲望、强烈的自我意识和自主意识以及对世界的常识性理解在人类智慧中没有起到至关重要的作用吗？

摘要

人工智能研究员特里-维诺格拉德在1977年说，"人工智能的现状堪比中世纪的炼金术"。不幸的是，这并没有改变。正如炼金术涉及将一些物质混合在一起并希望得到一个有价值的结果一样，大多数正在进行的人工智能研究也是类似的。毫无疑问，这些实验将有助于实现最终目标。然而，我们需要更好的方法来评估人工智能的状况。我们也需要停止用对结果的误导性解释来欺骗自己。为了实现真正的人工智能，我们需要一个具体的智能理论。