Андрей Карпаты поддерживает введение нового термина, связанного с "инженерией контекста" в разработке программного обеспечения ИИ с использованием LLM. И этот термин давно кажется очень необходимым. Каждый раз, когда я объясняю людям, как мы разрабатываем наш Nethermind AuditAgent, один из ключевых аспектов, помимо использования экспертных знаний (безопасность web3) и использования лучших доступных моделей ИИ (от OpenAI, Anthropic и Google), а также инструментов для LLM, именно "инженерия контекста". Иногда есть выражение "контекст — это король", и это действительно правда. LLM, будь то огромные продвинутые модели или оптимизированные маленькие LLM, являются мощным инструментом, но, как и любой инструмент, если он попадает в неправильные руки, вы получите гораздо менее многообещающие результаты, чем могли бы, если будете работать с ними правильно. И управление (или инженерия) контекстом действительно является сложной и не очень хорошо описанной областью, которая постоянно развивается, и она действительно возникла как продолжение концепции инженерии подсказок, которая уже имеет некоторые негативные коннотации. В целом, Андрей перечислил основные аспекты, связанные с инженерией контекста (на втором скриншоте), но в каждой конкретной задаче люди достигают отличных результатов в значительной степени через проб и ошибок, каждый раз монотонно пытаясь выбрать правильные элементы контекста, которые действительно необходимы на этом этапе решения проблемы, собирая эталонные данные для каждого этапа, смотря на метрики, разделяя наборы данных на тестовые, валидационные и так далее. Что вы думаете об "инженерии контекста"?