Поиск по знаниям, память и опора на источники для боевых агентов
Когда агенту нужен поиск по базе, как резать и цитировать источники, что класть в память и как обновлять правила.
Northstar
Northstar - студия AI agent systems. Алекс ведёт engineering и продукт, Джордан - operations и fit процессов. Делаем production-агентов в tools, которыми команда уже пользуется.
Alex Morgan · LinkedIn · Northstar
Прямой ответ
Используйте RAG, когда ответы должны следовать approved documents. Используйте memory умеренно для session или user preferences - не как junk drawer secrets. Grounding - это citations, freshness и evals, а не bigger prompt.
Long prompt vs RAG
Prompts гниют и упираются в limits. RAG достаёт relevant chunks на каждый вопрос с updateable sources.
Chunking basics
Chunk'ить по coherent policy sections, хранить metadata (title, date, product), избегать huge blobs, которые размывают retrieval.
Citations
Требуйте source IDs в answers для knowledge tasks. «Мне кажется» - не ops answer.
Типы memory
Ephemeral session context, durable preferences, и никогда: raw credentials или data других clients.
Freshness
Версионируйте documents, expire superseded policies, re-index on publish. Stale SOP retrieval - silent failure mode.
Per-client indexes
Agencies и multi-tenant products нуждаются в isolation by tenant - shared global indexes протекают.
Eval retrieval
Мерите hit rate на golden questions, не только chat style scores.
Как помогает Northstar
Northstar проектирует grounded knowledge paths в pilots: knowledge assistant.
FAQ
Нет. Некоторые paths - pure tool workflows. Используйте search, когда language Q&A over docs - это job.