階層的推論モデル：高度なAIの解放
人工知能は複数の抽象化レベルで段階的に複雑なタスクに取り組むことを学んでいます。
AIチャットボットを何か些細でないことに使ったことがある人なら、この感覚を知っているでしょう：答えは自信を持って、流暢に、説得力を持って返ってきます。そして、それが間違っていることに気づきます。最悪なのは誤り自体ではなく、どうやってそこに至ったのか理解する方法がないことです。それは出力を生成するブラックボックスです。信頼するかしないかはできますが、一緒に推論することはできません。
これが階層的推論モデル（HRM）が解決しようとしている問題です。基本的なアイデアは直感的です：不透明なブロックですべてを処理する代わりに、システムは問題をより小さなサブ問題に分解し、それらを階層的に整理し、専門化されたサブモデルで一度に一つずつ解決します。そして結果を集約します。コンセプトとしては革命的ではありません—複雑なものに直面したときの人間の推論方法とほぼ同じです—しかし、それをAIアーキテクチャで実装することはまったく別の話です。
Webcracyとして最も興味があるのは、追跡可能性の側面です。医療や法律などの分野では、システムがなぜ特定の決定を下したかを知ることはあれば良いものではありません：それは要件です。AIが診断を提案したり、契約リスクを強調したりする場合、その推論を追跡し、どのデータに基づいているか、何に何の重みを与えたかを理解できるようにしたいものです。HRMはこれを約束します：検証可能な決定のチェーン、空から降ってきた答えではなく。
初期の結果は有望です。プロトタイプは、従来のモデルと比較して、複雑な質問に対してより高い精度とより低いエラー率を示しています。しかし正直に言いましょう：私たちはまだ実験段階にいます。「説明可能性」はAI業界がよく使う言葉ですが、技術的な現実よりもマーケティングの約束として使われることが多いです。すべてのHRMが同様に透明であるわけではなく、階層的分解がフードの下で何が起こっているかを自動的に理解できることを保証するわけではありません。
もう一つ興味深い側面があります：効率性。階層的システムはすべての詳細を同時に考慮する必要はありません；各フェーズに適した抽象化レベルに集中できます。理論的には、これはよりスリムな計算を意味します。実際には、実装と問題のタイプに大きく依存します。
このアプローチがうまくいかない可能性があるのはどこでしょうか？おそらく、問題がきれいな分解に向いていない、変数が独立したサブ問題に分離するには相互に関連しすぎているコンテキストでしょう。そして一般的に、私たちはAIアーキテクチャを「その」ソリューションとして提示する人には警戒しています。AIの歴史は、後に中間ステップであることが判明した「マイルストーン」で満ちています。
とはいえ、HRMは私たちにとって理にかなっていると思われる方向を表しています：出力を生成するだけでなく、その作業を示すことができるシステムを構築すること。一緒に推論できるAIは、単に言葉を信じなければならないAIよりも有用です。
この記事はBlue Tomatoに引用されました。
これらのトピックに興味があり、あなたのコンテキストにどのように適用できるか理解したい場合は、お問い合わせください。