LexiconTrail は、高度なインデックス作成機能を備えた @nvidia Small Language Models を使用して、10 倍高速なエージェント AI システムを構築する方法を示しています。 このオープンソースプロジェクトは、特殊なSLMとLlamaIndexのセマンティック検索、ナレッジグラフ、マルチモーダルインデックスを組み合わせた本番環境対応のアーキテクチャを実証しています。 🚀 さまざまなタスクに対応する特殊なSLM間のインテリジェントなルーティングによるマルチエージェントオーケストレーション ⚡ 計算リソースを90%削減し、ドキュメントQAおよび推論タスク全体で優れた精度を達成 🏗️ VectorStoreIndex、KnowledgeGraphIndex、およびカスタムQueryEngine実装との完全な統合 📊 従来のLLMアプローチの2400ミリ秒に対して2400ミリ秒の応答時間を示す実際のベンチマーク このシステムは、構造化ナビゲーションに TreeIndex、階層処理に DocumentSummaryIndex、カスタム プロンプトに ResponseSynthesizer を活用しており、適切にオーケストレーションされれば、小規模で特殊なモデルが大規模なモデルよりも優れたパフォーマンスを発揮できることを証明しています。 AIカウボーイズによって構築されました! リポジトリを探索します。