因果关系是人工智能难题中缺失的一块吗？

heyjoypaul

科学的核心就是寻找因果关系。例如，仅仅知道吸烟与癌症之间的相关性是不够的；还需要知道吸烟与癌症之间的相关性。重要的是要知道，如果我们开始或停止吸烟，就会改变我们患癌症的可能性。目前的机器学习()通常不考虑因果关系，而仅关注基于统计关联的预测。当使用此类模型进行决策时，这可能会导致问题。例如，我们可能会发现人均巧克力消费量与人均诺贝尔奖数量之间存在很强且统计上稳健的相关性，但如果我们使用此模型来为政策提供信息鼓励人们多吃巧克力，我们可能不会获得想要的结果。在过去的几十年里，计算机科学家和统计学家开发了一个全面的因果推断框架，使得在某些情况下从观察和实验数据推断因果关系成为可能，更普遍的是对因果关系进行正式推理。这些框架使我们能够回答三类问题。联想如果我看到X，我看到Y的概率是多少？干预如果我做X，我看到Y的概率是多少？反事实如果我做了X，Y会是什么样？正如我们将在下面讨论的，能够回答此类问题在许多人工智能任务中非常重要。因果推理也是人类智力的重要组成部分。这并不奇怪，因为我们大脑的主要目的是决定如何行动——树没有大脑。发展心理学家发现，儿童在很小的时候就已经具备了推理因果的能力，前面提到的因果模型可以很好地描述人类的因果推论。由于因果推理对于我们对世界的科学理。

解和对世界的常识性理解都至关重要，因此因果推理对于构建人工智能也至关重要。在高通人工智能研究中心，我们正在探索使用因果模型来解决人工智能和机器学习中长期存在的基本开放问题的各种方法。因果关系如何改善表征学习在许多学习问题中，输入由低 白俄罗斯电话营销数据 级传感器数据组成，例如来自相机的图像。仅使用此类低级输入来学习如何行动例如，驾驶汽车或控制机器人非常具有挑战性。表示学习领域涉及训练神经网络将此类低级输入由数百万个单独无意义的变量如像素组成转换为高级语义有意义的变量如对象的类别和外观或其位置。一个常见的发现是，有了正确的表示，问题就会变得容易得多。然而，如何训练神经网络学习有用的表示仍然知之甚少。在这里，因果关系可以提供帮助。在因果表示学习中，表示学习的问题被定义为寻找因果变量以及它们之间的因果关系。使用此类方法发现的变量往往更容易解释。它们还有助于推理。例如，人工智能代理可能会推断道路上的其他汽车行驶缓慢，因为它们注意到救护车即将到来，即使我们还没有看到它。在我们的论文《弱监督因果表示学习》中，我们研究了在哪些条件下我们可以学习正确的高级表示——即与数据生成过程相关的表示。我们还提供了一个简单的概念验证示例，在该示例中，我们学习了一种表示形式，可以将各种。



按钮和灯光与视觉输入分开，然后找出机器人手臂应该按下哪些按钮来打开不同的灯。除了学习因果变量和因果关系之外，我们还在研究可以学习如何干预因果变量的方法。例如，为了使有关按钮和灯光的因果知识发挥作用，机器人需要学习实用技能来实际按下按钮并将这些技能与其推理能力联系起来。因果关系如何改善模仿学习因果推理可以提供帮助的另一个领域是模仿学习。这是一类训练人工智能代理模仿专家行为的方法。例如，我们可以收集视频和激光雷达数据，以及来自专业人类驾驶员的转向和制动命令，并训练人工智能代理在给定相同的视频和激光雷达输入​​时预测专家的动作。这种方法因其简单性而很有吸引力，但如果不考虑因果关系，它可能会失败。一种问题被称为因果混乱。想象一下，我们的代理的视觉输入包括仪表板上的一个小灯，只要踩下刹车，该灯就会亮起。缺乏常识的智能体可能会发现，当灯亮时，几乎总是下一个时间步3f的动作是刹车。从统计上看，这是一个正确的推论，因为大多数时候，当专家在一个时间步中刹车时，他们会在下一个时间步中做同样的事情。但从因果关系上来说，这是错误的专家刹车是因为危险情况或红绿灯，而不是因为仪表板上的灯。显然，如果模仿者学会了只要踩下刹车就保持刹车，否则继续行驶，那么它在现实世界中的表现就不会很好。