Andrej Karpathy氏は、LLMを使用したAIソフトウェア開発における「コンテキストエンジニアリング」に関連する新しい用語の導入を支持しています。 そして、この用語は長い間非常に必要であると思われてきました。私がNethermind AuditAgentの開発方法を説明するたびに、ドメインの専門知識(web3セキュリティ)を使用し、利用可能な最高のAIモデル(OpenAI、Anthropic、Google)、およびLLMのツールを使用することに加えて、重要な側面の1つは、まさに「コンテキストエンジニアリング」です。 「文脈が王様である」という表現がありますが、それは本当に真実です。LLMは、巨大な高度なものであろうと最適化された小さなLLMであろうと、強力なツールですが、他のツールと同様に、それが間違った人の手に渡った場合、正しく作業した場合よりもはるかに有望な結果が得られません。また、コンテキスト管理(またはエンジニアリング)は、常に進化している複雑であまり説明されていない領域であり、すでにいくつかの否定的な意味合いを持つプロンプトエンジニアリングの概念の延長として実際に登場しました。 全体として、Andrejはコンテキストエンジニアリングに関連する主な側面をリストアップしました(2番目のスクリーンショット)が、それぞれの特定のタスクでは、人々は主に試行錯誤を通じて優れた結果を達成し、そのたびに、問題解決のこの段階で本当に必要な適切なコンテキスト要素を選択しようとし、各ステージのベンチマークを収集し、メトリックを見て、データセットをテストに分割します。 検証など。 「コンテクストエンジニアリング」についてどう思いますか?