任何使用AI聊天机器人处理过非简单问题的人都知道这种感觉：答案来得自信、流畅、令人信服。然后你意识到它是错的。最糟糕的不是错误本身，而是你无法理解它是如何得出这个结论的。它是一个产生输出的黑盒子。你可以信任它或不信任它，但你无法与它一起推理。
这就是分层推理模型(HRM)试图解决的问题。基本思想是直观的：系统不是在一个不透明的块中处理所有内容，而是将问题分解成更小的子问题，按层次组织它们，然后用专门的子模型一次解决一个。然后聚合结果。作为一个概念，这并不是革命性的——它或多或少就是人类面对复杂事物时的推理方式——但在AI架构中实现它是完全不同的故事。
作为Webcracy，我们最感兴趣的是可追溯性方面。在医学或法律等领域，知道系统为什么做出某个决定不是锦上添花：这是一个要求。如果AI建议一个诊断或突出一个合同风险，你希望能够跟踪它的推理，理解它基于什么数据，它给什么赋予了什么权重。HRM承诺这一点：一个可验证的决策链，而不是一个从天而降的答案。
早期结果令人鼓舞。原型显示，与传统模型相比，在复杂问题上具有更高的精度和更低的错误率。但让我们诚实：我们仍处于实验阶段。"可解释性"是AI行业经常使用的一个词，往往更多是作为营销承诺而非技术现实。并非所有HRM都同样透明，分层分解也不能自动保证你会理解底层发生了什么。
还有另一个有趣的方面：效率。分层系统不必同时考虑所有细节；它可以专注于每个阶段的正确抽象级别。理论上，这意味着更精简的计算。实际上，它在很大程度上取决于实现和问题类型。
这种方法在哪里可能不起作用？可能在问题不适合干净分解的情况下，在变量过于相互关联而无法分离成独立子问题的情况下。总的来说，我们对任何将任何AI架构呈现为"那个"解决方案的人持怀疑态度。AI的历史充满了后来被证明是中间步骤的"里程碑"。
话虽如此，HRM代表了一个对我们来说看起来合理的方向：构建不仅产生输出，还能展示其工作过程的系统。一个你可以与之共同推理的AI比一个你只能相信其言辞的AI更有用。
本文被Blue Tomato引用。
如果这些话题让你感兴趣，你想了解它们如何适用于你的情况，联系我们。