美国南卡罗莱纳大学计算机科学人工智能博士生副教授Forest Agostinelli为《对话》撰写了有关如何使人类的思维更容易获得人工智能创新的文章。

人工智能（AI）领域创造了可以驾驶汽车，合成化合物，折叠蛋白质并检测超人水平的高能粒子的计算机。

但是，这些AI算法无法解释其决策背后的思维过程。一台掌握蛋白质折叠功能并告诉研究人员更多生物学规则的计算机比一台无需解释即可折叠蛋白质的计算机有用得多。

因此，像我这样的AI研究人员现在正在将精力转向开发可以以人类可以理解的方式进行自我解释的AI算法。如果我们能够做到这一点，我相信人工智能将能够发现并向人们传授尚未发现的关于世界的新事实，从而带来新的创新。

从经验中学习

AI的一个领域，称为强化学习，研究计算机如何从自己的经验中学习。在强化学习中，AI会探索世界，并根据其行为获得正面或负面的反馈。

这种方法导致算法可以独立学习超人水平的国际象棋并在没有任何人工指导的情况下证明数学定理。在我作为AI研究人员的工作中，我使用强化学习来创建AI算法，以学习如何解决诸如Rubik's Cube之类的难题。

通过强化学习，AI可以独立学习以解决甚至人类都难以解决的问题。这使我和许多其他研究人员对AI可以学习的内容的思考减少了，而人们对AI可以学习的知识的思考却减少了。能够解决魔方的计算机也应该能够教人们如何解决它。

窥视黑匣子

不幸的是，超人类AI的思想目前对我们人类来说是遥不可及的。人工智能造就了可怕的老师，这就是我们在计算机科学界被称为“黑匣子”的东西。

黑匣子的AI只会吐出解决方案，而没有给出其解决方案的理由。计算机科学家数十年来一直在尝试打开这个黑匣子，最近的研究表明，许多AI算法实际上都以与人类相似的方式进行思考。例如，训练有素的识别动物的计算机将了解不同类型的眼睛和耳朵，并将这些信息放在一起以正确识别动物。

打开黑匣子的努力被称为可解释的AI。我在南卡罗来纳大学AI研究所的研究小组对开发可解释的AI感兴趣。为了实现这一目标，我们与Rubik's Cube紧密合作。

魔方魔方本质上是一个寻路问题：找到一条从A点（一个乱序的魔方）到B点（一个已解决的魔方）的路径。其他寻路问题包括导航，定理证明和化学合成。

我的实验室建立了一个网站，任何人都可以看到我们的AI算法如何解决Rubik's Cube；但是，一个人很难从该网站上学习如何求解多维数据集。这是因为计算机无法告诉您其解决方案背后的逻辑。

Rubik's Cube的解决方案可以分解为几个通用步骤-例如，第一步可以是形成十字形，而第二步可以是将拐角零件放置到位。虽然魔方魔方本身具有10到19的可能幂组合，但通用的分步指南非常容易记住，并且适用于许多不同的情况。

通过将问题分解为多个步骤来解决问题通常是人们相互解释事物的默认方式。Rubik的多维数据集自然适用于此分步框架，这使我们有机会更轻松地打开算法的黑匣子。创建具有这种能力的AI算法可以使人们与AI合作，并将各种复杂的问题分解为易于理解的步骤。

协作带来创新
我们的过程始于使用自己的直觉来定义逐步解决方案，该方案被认为可以解决一个复杂的问题。然后，该算法查看每个单独的步骤，并给出有关哪些步骤可行，哪些不可能，以及如何改进计划的反馈。然后，人员使用AI的建议来完善初始计划，然后重复该过程，直到问题解决为止。希望人与AI最终会融合成一种相互理解的方式。

目前，我们的算法能够考虑解决卢比克魔方的人工计划，提出对计划的改进，识别无效的计划并找到可行的替代方案。这样，它会提供反馈，从而导致逐步解决人可以理解的魔方的计划。我们团队的下一步是建立一个直观的界面，该界面将使我们的算法可以教人们如何解决魔方。我们希望将这种方法推广到广泛的寻路问题。

人们以任何AI都无法比拟的方式直观，但是机器的计算能力和算法严格性要好得多。人与机器之间的这种来回结合利用了两者的优势。我相信，这种合作将揭示从化学到数学各个领域以前未解决的问题，从而带来可能无法实现的新解决方案，直觉和创新。 谈话