论AI自动化思维中的隐性成本( 二 )_像许多药物一样

这种先回答、后解释的药物发现方法带来的新问题，我将其称为知识债务（intellectual debt）。具体来讲，我们可能会在不清楚其起效原理的情况下发现了药方，而后利用洞察力对底层机制进行假设，最后计算得出正确结论。在某些情况下，我们能够快速偿还这笔知识债务，但有时候我们可能要经过长达数十年的痛苦摸索——期间只能继续“浑浑噩噩”地依仗这种尚未被解谜的知识成果。

过去，知识债务的解决一直局限于某些能够反复进行实验的领域，特别是医学。但目前的情况正在改变，人工智能——特别是机器学习——这一新兴技术的崛起，正在快速提升我们人类的整体知识水平。

机器学习系统能够从浩如烟海的信息当中提取数据模式，而这些模式将帮助我们为那些较为模糊的开放性问题找到答案。如果利用有猫与无猫标记图片对神经网络模型进行训练，它就能区分猫和其它动物；如果我们利用医疗记录训练模型，其则可尝试预测入院病人的死亡可能性。然而，大多数机器学习系统无法发现其中的因果机制，其更像是一套用于统计相关性的引擎。这些系统无法解释自己为何认为某些患者的死亡率更高，因为它们没有真正意义上的“思维”能力，而仅仅是具备回答问题的能力。当我们将这类系统的见解融入日常生活时，就会发现自己承担的知识债务开始快速增长。