论AI自动化思维中的隐性成本( 三 )_像许多药物一样

药物发现中的无理论进展向我们证明，在某些情况下，知识债务是一种合理甚至必要的过渡产物。尽管我们还无法从根本上解释起效机制，但这些成果已经挽救了数以百万计人类的生命，并让我们的生活更加美好。很少有人会因为不清楚药效原理而拒绝服用能够拯救生命的药物——甚至在吃阿司匹林的时候，大家也不会为此担忧。

但必须承认，知识债务的积累也有不利因素。当大量原理未知型药物彼此纠缠起来，发现其彼此之间不良作用的测试也开始呈指数级增长。（如果了解药物的起效原理，我们就能够事先预测这些负面相互作用。）

因此，在实践当中，某些新药物上市之后会与原有药物发生反应，接下来就是两家公司陷入诉讼泥潭，并最终导致药品退出市场。从理解角度看，我们应该通过一个个案例累积起与新药相关的认知，并逐步解决知识债务问题。然而，知识债务并非孤立存在；如果没有跨过第一原理这道门槛，在不同领域发现及应用的答案都可能以无法预测的方式带来难以想象的复杂性问题。

通过机器学习产生的知识债务，在风险上远远超过了以往来自旧式试验与错误尝试的同类债务。这是因为大多数机器学习模型都无法对当前判断给出理由性解释，因此如果不对它们提供的答案进行独立判断，我们就无法得知它们在哪些用例中犯了错误。虽然在经过严格训练的系统中，这种错误非常少见；但是，我们仍有必要明确理解系统的判断过程，否则恶意人士将通过种种方式故意触发错误，进而造成严重的负面后果。