来源：reddit
【新智元导读】通用人工智能（AGI）一直是人工智能学科的核心目标，但现在我们离真正的 AGI 还很远。今天的 Reddit 最热帖是一个关于 AGI 的讨论，发帖人的梦想是创建 AGI，但却被派去处理 NLP 领域的 ML 问题。他发现自己非常厌倦机器学习，于是热心的网友纷纷为他支招。戳右边链接上 新智元小程序 了解更多！
人工智能学科的核心目标是，有朝一日我们能够建造像人类一样聪明的机器。这样的系统通常被称为通用人工智能系统（AGI）。
到目前为止，我们已经建立了无数 AI 系统，在特定任务中的表现可以超过人类，但是当涉及到一般的脑力活动时，目前还没有一个 AI 系统能够比得上老鼠，更别说超过人类了。
今天的 Reddit 最热帖就是一个关于 AGI 的讨论。一位名叫“u/bguerra91”的发起者在大学里研究，在过去的几周里，被派去处理一些属于 NLP 领域的 ML 问题。通过阅读所有关于 NLP 的文章，他意识到自己已经非常厌倦机器学习这一学科，完全忘记了最初促使他走上这条路的是努力解决创建 AGI 的工程挑战。
现在，他开始重新考虑这个问题，他很好奇到底有多少人在解决这个问题？有很多数据科学家或业余爱好者使用 ML 构建预测模型，但是谁将 ML 用作专门用于 AGI 工程设计的工具呢？对于这些人，发起者还问了 3 个问题：
- 你以什么身份处理过这个问题？你是怎么开始的？
- 你在这方面工作多久了？到目前为止，你从经验中得到的主要收获是什么？这些可能是哲学上的见解、挑战或一般性的想法。
- 当一个 AGI 被创建时，你认为机器学习将是它创建的一个关键组成部分还是一个小部分？或者你认为我们创建它所需要的技术将与我们现在所认为的机器学习有根本的不同吗？
一、6 年+深度学习算法工程师解答：用现代的 ML 方法实现 AGI 是一个白日梦
这个帖子引发了机器学习社区的大讨论，其中，最高赞的回答来自一位做了 6 年以上尖端深度学习算法的工程师。在他看来：
我们比过去更接近 AGI。尽管媒体的报道和展示手法很花哨，但所有现代的深度学习工具都容易受到观察偏差的影响（甚至是无监督的算法！）因为在现实中，你无法获取无限的数据，而且你的模型中可能有一些罕见的数据实例，你无法在训练阶段获取这些实例，所以在许多实际应用中，不可能 100% 完整地描述你的数据空间。
人类有办法绕开这一点，这就引出了我的下一点，即现代学习算法仍然完全无法解释他们从未遇到过的罕见观测，完全不同于人类或 AGI 系统。此外，人类大脑完全理解一个事物并用极少的例子对其属性进行推断的能力令人难以置信。
最后，我要指出强化算法的成功与失败。有一段时间，算法在许多游戏环境中击败了最好的人类专家。但不久之后，人类专家学会了算法所使用的策略，并操纵这个因素，使其能够始终如一地击败算法。这是现代 ML 的另一个短期趋势，即它无法根据长期反馈动态地改变自己的行为（因为专家知道如何打败它，所以它将永远输给专家，但如果不重新训练新的人类反馈，它将永远无法改变自己的行为，使其再次具有竞争力——人类可以学着打败下一个模型）
我并不是说这很糟糕，也不是破坏 ML，因为我绝对喜欢 ML 和 DL，而且我喜欢我所做的事情。但我认为，认识到这一点非常重要，深度学习模型是重现大脑某些方面（例如人类视觉系统输入（CNN））的一种好方法，但它们绝不能描述人类大脑内部信息的整个处理过程（在视觉刺激之前，大脑会对其进行许多高级处理）。
在我看来，需要将有关外部世界的完整感官输入以及可能的情感回路与当前的深度学习方法结合起来，以再现 GI，而我们离解决这个问题还差得很远。它还需要能够以一种通用的方式动态地调节其自身的内存和网络，以与人类 GI 竞争。
综上所述，如果你因为必须研究 NLP 而感到厌烦，那么，我认为这是一个公平的回应。我认为 NLP 令人印象深刻，但仍远没有人类对现实世界中事物的推理方式。语言是我们所有感官，感觉和思想之间的基础整合，几乎你在大脑中所能想到的每一件事都可以用语言来表达。它是存在的最复杂的代码之一，它捕获了我们整个世界中的每个实体。
当前状态下的 NLP 算法与我在上面概述的方法一样，对环境感知是不可知的，尽管它们可能实现高性能，但它们永远不会对未遇到的事情进行推理，生成不依赖于训练输入的逻辑思维过程，或以无可辩驳的方式通过图灵测试。你有权感到厌倦，因为如果计划使用现代的 ML 方法来实现目标，AGI 是一个白日梦。
在我看来，有很多与 AGI 无关的 DL 应用是非常有趣的，DL 实际上在某些方面可以比人类做得更好。实际上，AGI 模型可能甚至不如深度学习模型那样好。一个很好的例子是我正在从事的另一个项目：预测患病的患者病情恶化的可能性。这是医生可能会想到的事情，但是世界上大多数医生将无法给出准确的风险确切数字。但是，深度学习模型可以对患者的未来结果做出令人印象深刻的预测。这表明 DL 和 AGI 都有各自的优点，并且我认为如果找到目标明确的 DL 应用，你会更高兴。
在我看来，如今所有人都想研究 NLP，但我认为在其他许多领域中也存在着巨大的机遇，只是还没有被人注意到。NLP 已经非常成熟，我认为你应该坚持下去，努力找到一个目标让你觉得 intellectually rewarded。
二、AGI 尽管离成功还很远，但我们或许正朝着成功的方向前进
还有不少网友分享了自己的见解。
MichaelMMeskhi 认为：
AGI 是一个不错的想法，但不幸的是，我们离甚至是基本的 AGI 系统还很远。许多在 ML/AI/DS 中取得突破的工具正在进行优化和自动化（AutoML 等）。
- 我开始攻读元学习博士学位。尽管我是一个初学者，但我一直在考虑创建自适应系统。
- 为了完全巩固甚至不是我们最近的工作（深度学习、强化学习等），我们仍有很多工作要做。
- 机器学习是人工智能的一个分支。我认为这将是 AGI 系统的一部分，但真正的大脑将主要是纯人工智能理论。
我建议读读 Sebastian Thrun 的书《Learning to Learn》，它讨论了人类和机器是如何学习的，以及什么是学习。
下面是 NikeTheSword 对于 3 个问题的回答：
- 大学的计算机科学/哲学课程让我走上了这条路。就我个人而言，我渴望更好地理解人性。我想知道是什么让我们这么做。AGI 是合乎逻辑的下一步。
- 4 年了，我相当有信心的是，我们当前对特定任务的行为建模的方法将不会产生 AGI。当前系统中缺少两个核心组件：创造力和将新数据与现有数据关联起来的能力。创造力被进一步划分为意志问题，这引发了诸如“如何使一个系统想要/害怕”这样的问题。在我们当前的方法中，这些都不是有用的特征，因为它们使系统更难以预测。进化和成长是激烈的，与生存是矛盾/竞争的。因此，这 4 年到目前为止的关键结论相当令人沮丧：如果没有不可优化的适应性指标，AGI 就不会存在。
- 是的。“智能”是根据以前的数据做出决策的行为。如果我们同意“机器学习从根本上讲是一种数据驱动的决策方法”，那么这两者是一致的。然而我们目前的 SotA ML 系统仍然主要是蛮力的方法而缺乏灵活性。
Simulation_Brain 的回答：
你听到的回答几乎都来自于你寻求答案的其他人。这里的评论者说关于 AGI 的工作并不存在，或者离完成还差得很远，但是他们没有资格去猜测，因为他们没有认真地考虑过。
Deepmind、openAI 和大约 20 家规模较小的公司正在积极开发 AGI。这只是机器学习行业的一小部分，但它是非常真实的。至于他们离成功是近还是远，这是一个悬而未决的问题，很多人对此进行了深入的思考并存在许多争论。
以此类推，有很多人争辩说，比空气重的飞机是遥远的，直到莱特兄弟实现了这一目标。当然，确实距今一百年前有人说过同样的话。在真正实现之前，很难猜测什么是可能的，更不用说需要花多长时间才能实现。
所以你需要相当深入的专业知识才能得出自己的最佳猜测。
papajan18 也分享了自己的观点：
1. 我在本科学习了 4 年的计算机科学和机器学习，并用机器学习对神经科学数据进行了数据分析。现在我开始攻读博士学位，研究人类/啮齿动物的元学习、强化学习以及深度学习模型。
2. 我真的很关心 AGI，希望有一天人类能够实现。我认为从计算的角度来看待人类/动物是如何形成智力的及其基本原理，这非常重要。并不是说我们必须复制自然，但是动物/人类是我们唯一真正的智力实例，因此关注他们是如何完成我们希望人工智能来完成的这些任务的，这很重要。
我真的建议你研究心理学/认知科学/神经科学。这样做的好处是，你能够思考类似 AGI 的问题，因为你正在做机器学习还不能做到的事情。缺点是涉及的工程学较少，因为它更多的是一门科学，所以人们试图让事情更简单，这样就更容易解决问题。
使用机器学习的好处是，你可以真正深入研究复杂的工程模型。一些人的工作与这二者都有关系（比如 Deepmind，他们在研究机器学习的同时也做一些心理学/神经科学方面的工作），这真的很酷，因为你在建立和理解智能方面都能做到最好。我希望自己在研究生期间能够同时涉足这二者。
3. AGI 离我们还很远，但我确实觉得我们在朝着这个目标迈进。我认为深度学习真的很重要，但它不是全部。我认为这对表征学习非常有用（从我们的世界中获取输入，学习它的良好表征，促进智能行为）。因此，AGI 可能会在其他方面使用深度学习。深度强化学习是一个很好的例子（不是说它是 AGI。这是一个步骤，但它有其自身的问题），因为你基本上只是在添加一个神经网络，去学习良好的状态表征形式，并将其输入到强化学习框架中。我在注意的另一件事是概率编程和贝叶斯模型。
三、23 位顶尖 AI 专家预测：通用人工智能可能在 2099 年实现
尽管关于 AGI 的话题在人工智能领域一直被广泛讨论，但研究人员对于这一宏伟目标何时实现的问题上，几乎从未达成一致意见。
2018 年出版的《智能架构》一书中，该书的作者、未来学家马丁·福特采访了 AI 领域的 23 位最杰出的人物，其中包括 DeepMind 首席执行官 Demis Hassabis，谷歌 AI 首席执行官 Jeff Dean 和斯坦福 AI 负责人李飞飞等。
其中一个话题要求受访对象做出预测，我们在哪一年能够有 50% 的机会成功实现通用人工智能？
在 23 位受访者中，有 18 人回答了这个问题，但只有两人愿意具名回答。
有趣的是，这两个人给出的答案是最极端的：谷歌的未来学家和工程总监 Ray Kurzweil 认为，这个时间为 2029 年。而 iRobot 联合创始人 Rodney Brooks 的回答则是 2200 年。其余人给出的答案在这两个时间点之间，平均算下来，这个时间点为 2099 年。
福特说，这个调查显示出专家们对这个问题的有趣的分歧，不是关于何时实现 AGI，而是使用现有方法是否可能实现 AGI。
一些研究人员表示，现在大部分基本工具和条件都已经具备了，实现 AGI 只需要时间和精力了。还有人则表示，我们目前仍然缺少实现这一目标所需的重大技术突破。
目前 AI 研究人员的大量成果都基于深度学习，这部分人倾向于认为未来的进步离不开神经网络，即当代 AI 的核心。而具有其他 AI 背景的人认为，实现 AGI 需要通过其他方法，比如符号逻辑。无论哪种方式，对这个问题都存在相当大的分歧。
福特说：“深度学习阵营中的一些人非常看不起在 AI 中直接设计常识之类的东西。他们认为这种想法很愚蠢。有人说，这就像是要把一些信息直接粘贴到大脑中一样。”
许多专家认为，我们目前还缺少实现 AGI 的一些必要技术基础。
所有受访专家都提到当前 AI 系统的局限性，并提到了目前尚未掌握的关键技术。包括迁移学习、无监督学习等。（目前绝大多数机器学习方法都要依赖人工标记数据，这是 AI 技术发展的严重瓶颈。）
对于如何研究 AGI、AGI 何时能够实现，你有什么高见？
来自:
新智元（ID:AI_era）
