论AI自动化思维中的隐性成本( 五 )_像许多药物一样

我们能否为知识债务创建一份资产负债表，并借此跟踪那些无理论知识被运用在哪里以及哪些系统当中？在初步统计之后，我们发现不同知识债务所引发的潜在影响也有所区别。如果是AI生成的全新批萨配方，那么管他什么潜在影响，直接尝尝味道就可以；但相比之下，如果我们打算采纳AI提出的健康预测与治疗建议，那么更充分的信息无疑非常必要。

要想建立并维护好这份覆盖整个人类社会的知识债务表，我们可能首先得改进原本主要用于处理商业机密及其它知识成果的相关方法。在城市，建筑法规要求房屋业主上报他们的装修计划；同样的，我们可能也得要求各科研机构或者大学公开他们实际使用的隐藏数据集与算法。如此一来，研究人员们将能够着手探索我们所依赖的模型及基础数据，并通过建立理论抢在知识债务引发严重错误及漏洞之前完成修复工作。

机器学习模型已经愈发普遍，任何人都能够创建起自己的机器学习模型，这也让统计审查工作变得越来越困难。但这仍然非常重要，因为孤立系统虽然能够产生有用的结果，但这些系统本身却不会孤立地存在：当AI技术收集并提取真实世界中的数据时，它们也会产生属于自己的数据，而其中大部分结论都会作为其它系统的输入内容。正如原理未知的药物之间可能发生相互影响一样，债务负担算法也将面对类似的挑战。