教AI区分果果干系和相干性，将转变下一代 AI 的研发

多年前，AI 范畴曾产生过一件荒诞而有味的事变。

听说，研究职员开辟了一种对病院数据举行练习的算法。这个算法发觉，「患有哮喘的肺炎患者的治愈体现，比没有哮喘的肺炎患者更好」，是以这个算法向病院发起「不要收治那些患有哮喘的人」。之以是得出这种荒诞的结论，那是由于「它」没有了解显现「这种征象」的缘故原由：患有哮喘的肺炎患者得到了分外的医疗照看。

人类和动物认知的焦点是对因果干系的了解：「事变为什么会产生」以及「我们怎样影响天下」。几十年已往了，大多数人工智能仍旧缺乏「辨认数据中的模式和相干性」的这种本领。

假如不相识因果干系，AI 大概永久无法弄清晰许多事变（比方导致疾病的身分），我们大概也永久无法精确解说归纳综合它（比方深度神经网络输出）。为 AI 提供因果推理，不但可以使 AI 更具可解说性，并且还可以使 AI 越发妥当、公正，而且——或许是最深刻的——可归纳综合。

为了告竣这一目标，盘算机科学家必要教盘算机以一种新的方法对待天下：将天下看作由「潜伏机制驱动」的征象，纵然是在这些机制无法从数据中得出的情形下。

「我们正在接纳科学假设并将其数学化。」

近来，哥伦比亚大学盘算机科学副传授兼哥伦比亚因果人工智能试验室卖力人 Elias Bareinboim 开辟了一种要领。该要领用于决定，在一种情况中有用的干涉步伐是否实用于另一种情况，是一种广义智能。

假如我们知道医疗步伐可以关心一家病院的人，它大概会报告我们该步伐是否实用于差别的患者群体；假如我们知道呆板人可以在加利福尼亚戈壁中飞行，它大概会报告我们呆板人是否可以在火星上运行；它也大概报告我们必要举行更多的试验。在特定命据集上练习的算法在现实摆设应用时每每会失败，那是由于雷同以上因果规律练习的缺失。提前发觉此类题目，可以革新练习历程；也可以依据题目，发起限定人工智能在何时何地可以被信托。

Elias Bareinboim 哥伦比亚因果人工智能试验室卖力人

一方面

总结履历教导是人类的老本领，Elias Bareinboim 也鉴戒了人类的计谋。「孩子们一种常见的进修方法是仿照成年人，」他说。近来他团队的事情展现了，软件算法怎样学会仿照专家，纵然在没有观看引导专家举动的全部信息的情形下。

下面是一个非常紧张的举例，请认真阅读。

该团队的主动驾驶汽车模仿器通过无人机在上方飞行，利用来自门路的数据练习汽车。在培训时期，「进修者」（控告制主动驾驶汽车模仿器的算法）观看到一位专家在另一辆车背面驾驶。专家依据火线汽车的尾灯举行加快和制动。由于「进修者」看不到灯光，以是以为专家的举动彷佛不正常，于是便制止了仿照。但是，当「进修者」被摆设在情况中，从路上观看两辆车时；它发觉到了帮助信息（两辆车的速率）的存在，这足以替换隐蔽变量（尾灯），并用帮助信息来关照汽车模仿器陆续仿照。新要领可以体系地搜刮情况中的增补信息，从而相识举动的真正缘故原由；这对付实际天下中的 AI 至关紧张。

另一方面

归纳综合智能的另一个要害是在体系中构建杰出的归纳推理。假设一小我私家想要猜测一部影戏能赚几多钱。我们大概会检察演员表，看看它是否包罗大明星。但是，相干性不即是因果干系。其他的称为「稠浊身分」的身分大概会影响演员声势和收入。哥伦比亚大学统计学和盘算机科学传授 David Meir Blei 研究了一种称为去稠浊身分的要领，该要领在举行猜测时解说了一些隐蔽的稠浊身分。

David Meir Blei 统计学和盘算机科学传授。

下面是另一个非常紧张的举例，请认真阅读。

「去稠浊身分」劈头于全基因组联系关系研究，目标是使用基因猜测性状或疾病。Blei 的看法是，为该要领提供正式的来由，并将其推广到其他范畴。在 2019 年的一篇被高度引用的论文中，他评释，该要领可以作用于大型数据集，从而证明「基因对性状」、「吸烟对康健」和「演员对影戏」收入的影响。Blei 的「解构者」（Blei 所提到的要领）在推举体系、社会科学研究和医疗评估方面表现出了壮大性能，该范畴的很多研究者已经在应用该要领。

Blei 还关心科学家创建「天下怎样运作」的模子。他探究了怎样在大型、庞大的数据会合找到模式，并通过假设变量之间的因果干系来利用它们来猜测将来。

「我们正在采纳科学假设并将其数学化。」他说。比方，他与统计系的副传授 John Patrick Cunningham 联统一组研究职员，正在绘制宇宙的灰尘图。灰尘是不行见的，一个隐蔽的变量，影响观看到的变量，如恒星亮度。Blei 关心科学家们开辟了一个概率天生模子，然后将其反转，依据他们所看到的来构建灰尘图。

这便是因果呆板进修的奇妙之处：将呆板进修的大范围本领与因果推理的原则性推理相联合。这将用于开辟下一代人工智能技能。