人工智能那么聪明为什么它不能掌握因果关系

这是一个令人不安的事实。一个自动驾驶汽车通过交通公路沿线和编织飞驰有什么可能导致比孩子谁是刚学走路的事故不太了解。

一项新的实验表明，即使是最好的人工智能系统，要掌握基础物理学及其因果关系也有多么困难。它还提供了构建AI系统的途径，可以了解事情发生的原因。

麻省理工学院大脑思维与机器中心教授乔什·特南鲍姆(Josh Tenenbaum)说，该实验的目的是“超越模式识别”，他与麻省理工学院的研究员Chuang Gan和博士生Kexin一起从事了该项目。在哈佛。“大型科技公司希望拥有可以执行此类操作的系统。”

近年来，最流行的尖端AI技术即深度学习已取得了惊人的进步，激发了人们对AI潜力的兴奋。它涉及提供大量近似的神经网络训练数据。深度学习算法通常可以精美地发现数据中的模式，从而实现令人印象深刻的图像和语音识别功能。但是它们缺乏其他对人类来说微不足道的功能。

为了证明该缺点，Tenenbaum和他的合作者为AI系统建立了一种智能测试。它涉及向AI程序显示一个简单的虚拟世界，里面充满了一些移动的对象，以及有关场景和正在发生的事情的问答。问题和答案都带有标签，类似于AI系统如何通过显示数百张标有“猫”的图像来学习识别猫。

使用高级机器学习的系统表现出很大的盲点。问了一个描述性问题，例如“此物体是什么颜色?”先进的AI算法将在90%以上的时间内实现正确。但是，当对场景提出更复杂的问题时，例如“是什么导致球与立方体碰撞?”。或“如果物体没有碰撞会发生什么?”同一系统只能在大约10%的时间内正确回答。

参与这项工作的MIT-IBM Watson AI Lab的IBM总监David Cox表示，了解因果关系对于AI至关重要。“我们作为人类有能力对因果进行推理，我们需要拥有可以做到相同的人工智能系统。”

缺乏因果关系的理解也会产生实际的后果。工业机器人可以越来越多地感应附近的物体，以便抓住或移动它们。但是他们不知道碰到某些东西会导致它掉落或摔坏，除非对其进行了专门的编程，并且无法预测所有可能的情况。

但是，如果机器人可以因果推理，那么它可能能够避免尚未编程理解的问题。无人驾驶汽车也是如此。它本能地知道，如果卡车要转弯并撞到障碍物，则其负载可能会洒到道路上。

因果推理对于几乎所有AI系统都是有用的。受过医学信息而非3D场景训练的系统需要了解疾病的原因以及可能的干预措施的可能结果。因果推理对人工智能的许多杰出人物越来越感兴趣。Cox说：“所有这些都推动了AI系统的发展，该系统不仅可以学习而且可以推理。”

卡内基梅隆大学负责因果推理和机器学习的助理教授张Kun说，由Tenenbaum设计的测试非常重要，因为尽管它在非常有限的环境中，但它提供了一种衡量因果理解的好方法。他说：“更通用的AI系统的开发将极大地受益于因果推理和表示学习的方法。”

Tenenbaum和他的同事除了显示现有AI程序中的弱点外，还构建了一种新型的AI系统，该系统能够了解因果关系，在其智力测验中得分更高。他们的方法结合了几种AI技术。该系统使用深度学习来识别场景中的对象。其输出被馈送到构建场景的3D模型以及对象如何交互的软件。