Урок 5.1Урок 25 з 30
Як зберегти факти в довгій розмові
Manage conversation context to preserve critical information across long interactions
Головне
- 1Коли історію раз у раз стискають, конкретика розмивається: «повернення $47.82 до 14 березня» перетворюється на «клієнт хоче найближчим часом часткове повернення». Суми, дати, номери замовлень, статуси й очікування, які назвав сам клієнт, винесіть у постійний блок case facts. Він іде в кожен промпт окремо від стислої історії.
- 2Messages API не зберігає стан між викликами, тож у кожному запиті надсилайте всю історію розмови. Якщо за одну сесію клієнт приходить із кількома проблемами, тримайте структуровані дані по кожній (замовлення, сума, статус, наступний крок) в окремому шарі.
- 3Результати інструментів накопичуються й з'їдають контекст непропорційно до своєї користі:
lookup_orderвіддає 40+ полів, а потрібні 5. Обрізайте багатослівний вивід інструментів до потрібних полів, поки він не накопичився. - 4Lost in the middle: початок і кінець довгого тексту модель ураховує надійно, а середину може пропустити. Ставте на початок зведення ключових результатів, а подробиці розкладайте по розділах із явними заголовками.
- 5Субагенти мають повертати метадані (дати, місця в джерелах, метод). Якщо в наступного агента мало місця в контексті, попередні агенти повертають структуровані факти, посилання на джерела й оцінки релевантності, а не багатослівні міркування.
Що перевіряє іспит із цієї теми
Формулювання з програми іспиту (англійською).
- 5.1.K1Progressive summarisation blurs numbers, percentages, dates, customer expectations
- 5.1.K2Lost in the middle: beginning and end are processed reliably, middle may be missed
- 5.1.K3Tool results accumulate and consume tokens out of proportion to relevance
- 5.1.K4Pass complete conversation history in each API request
- 5.1.S1Keep a persistent case facts block (amounts, dates, order numbers, statuses) outside summarised history
- 5.1.S2Persist structured issue data in a separate context layer for multi-issue sessions
- 5.1.S3Trim verbose tool outputs to relevant fields
- 5.1.S4Put key findings first and use explicit section headers
- 5.1.S5Require subagents to include metadata (dates, sources, method) in outputs
- 5.1.S6Upstream agents return structured facts, not verbose reasoning, when downstream context is limited
Закріпіть тему
Дайте відповідь на запитання за сценаріями з цієї теми. До кожного варіанта є розбір.
Тренування 5.1 · 26 запитань