Andrej Karpathy apoia a introdução de um novo termo relacionado a "engenharia de contexto" no desenvolvimento de software de IA usando LLMs. E este termo há muito pareceu muito necessário. Sempre que explico às pessoas como desenvolvemos nosso Nethermind AuditAgent, um dos aspectos-chave, além de usar expertise de domínio (segurança web3) e utilizar os melhores modelos de IA disponíveis (da OpenAI, Anthropic e Google), e ferramentas para LLM, é precisamente "engenharia de contexto". Às vezes há uma expressão "o contexto é o rei", e isso realmente é verdade. LLMs, sejam eles enormes e avançados ou pequenos LLMs otimizados, são uma ferramenta poderosa, mas como qualquer ferramenta, se estiver nas mãos erradas, você obterá resultados muito menos promissores do que poderia se trabalhasse com eles corretamente. E a gestão (ou engenharia) de contexto é, de fato, uma área complexa e não muito bem descrita que está em constante evolução, e realmente surgiu como uma extensão do conceito de engenharia de prompt, que já possui algumas conotações negativas. No geral, Andrej listou os principais aspectos relacionados à engenharia de contexto (na segunda captura de tela), mas em cada tarefa específica, as pessoas alcançam resultados excelentes em grande parte através de tentativa e erro, cada vez tentando monótonamente selecionar os elementos de contexto certos que são realmente necessários nesta fase de resolução de problemas, coletando benchmarks para cada etapa, observando métricas, dividindo conjuntos de dados em teste, validação, e assim por diante. O que você acha de "engenharia de contexto"?