Andrej Karpathy apoya la introducción de un nuevo término relacionado con "ingeniería de contexto" en el desarrollo de software de IA utilizando LLMs. Y este término ha parecido muy necesario desde hace tiempo. Cada vez que explico a las personas cómo desarrollamos nuestro Nethermind AuditAgent, uno de los aspectos clave, además de utilizar experiencia en el dominio (seguridad web3) y los mejores modelos de IA disponibles (de OpenAI, Anthropic y Google), y herramientas para LLM, es precisamente "ingeniería de contexto". A veces hay una expresión que dice "el contexto es el rey", y realmente es cierto. Los LLMs, ya sean enormes avanzados o pequeños LLMs optimizados, son una herramienta poderosa, pero como cualquier herramienta, si está en las manos equivocadas, obtendrás resultados mucho menos prometedores de lo que podrías si trabajas con ellos correctamente. Y la gestión (o ingeniería) del contexto es, de hecho, un área compleja y no muy bien descrita que está en constante evolución, y realmente surgió como una extensión del concepto de ingeniería de prompts, que ya tiene algunas connotaciones negativas. En general, Andrej enumeró los principales aspectos relacionados con la ingeniería de contexto (en la segunda captura de pantalla), pero en cada tarea específica, las personas logran excelentes resultados en gran medida a través de prueba y error, cada vez intentando monótonamente seleccionar los elementos de contexto correctos que realmente se necesitan en esta etapa de resolución de problemas, recopilando puntos de referencia para cada etapa, observando métricas, dividiendo conjuntos de datos en prueba, validación, y así sucesivamente. ¿Qué opinas sobre "ingeniería de contexto"?