Андрій Карпати підтримує введення нового терміну, пов'язаного з «контекстною інженерією», у розробку програмного забезпечення AI з використанням LLM. І цей термін довгий час здавався дуже потрібним. Щоразу, коли я пояснюю людям, як ми розробляємо наш Nethermind AuditAgent, одним із ключових аспектів, окрім використання експертизи домену (безпека web3) та використання найкращих доступних моделей штучного інтелекту (від OpenAI, Anthropic та Google), а також інструментів для LLM, є саме «контекстна інженерія». Іноді можна зустріти вислів «контекст – це король», і це дійсно так. LLM, будь то величезні просунуті або оптимізовані маленькі LLM, є потужним інструментом, але, як і будь-який інструмент, якщо він потрапить у чужі руки, ви отримаєте набагато менш перспективні результати, ніж могли б, якби працювали з ними правильно. А контекстний менеджмент (або інженерія) – це дійсно складна і не дуже добре описана сфера, яка постійно розвивається, і вона дійсно виникла як розширення концепції оперативного інжинірингу, яка вже має деякі негативні конотації. В цілому Андрій перерахував основні аспекти, пов'язані з контекстною інженерією (на другому скріншоті), але в кожному конкретному завданні люди досягають відмінних результатів багато в чому шляхом проб і помилок, кожен раз монотонно намагаючись вибрати правильні елементи контексту, які дійсно потрібні на цьому етапі вирішення проблем, збираючи бенчмарки для кожного етапу, дивлячись на метрики, розділяючи набори даних на тести, валідації і так далі, і тому подібне. Що ви думаєте про «контекстну інженерію»?