LlamaIndex 系列（一）：上下文工程（Context Engineering）

一、项目背景

大模型应用开发正在经历一场范式升级：过去大家认为"写好提示词就能做好 AI 应用"，但随着智能体、长对话、RAG 系统大规模落地，单纯优化文本指令已经无法支撑复杂自主应用。2025 年，由中科院计算所等机构联合完成的综述论文《A Survey of Context Engineering for Large Language Models》（基于 1400 余篇文献）首次把「上下文工程」作为独立学科提出：超越简单提示词设计，对 LLM 的信息载荷进行系统化优化。

二、技术方案

上下文工程是一整套流水线：搜集信息 → 加工信息 → 管好信息 → 拼出最合适的输入送给大模型，在有限 Token 预算下让大模型输出效果最好。

数学上，上下文被定义为带约束的优化问题：C=A(c1, c2, …, cn)，即把系统指令、外部检索知识、工具定义、历史对话、用户提问等信息碎片，由编排函数 A 动态筛选、改写、拼接，同时约束在模型上下文窗口内。

三大基础组件：

• 上下文检索与生成：获取合适信息（提示词与推理技巧、外部知识检索、动态上下文组装）
• 上下文处理：转换优化已有信息（长上下文处理、自精炼、多模态、结构化数据）
• 上下文管理：高效组织存储信息（记忆层级、上下文压缩、遗忘策略）

三、系统架构

上下文工程体系分为三层：

• 底层：三大基础组件（信息获取、加工、存储管理的"零件库"）
• 中层：四大系统实现——RAG 系统、记忆系统、工具集成推理（TIR）、多智能体系统（MAS）
• 上层：Agent / AI 应用（智能助手、知识库问答、办公 Agent、多角色协同机器人）

四大系统实现中，RAG 依托模块化与图增强方案整合外部知识；记忆系统构建多层记忆架构实现持久上下文；工具集成推理通过函数调用让模型对接真实世界；多智能体系统依靠通信协议与任务编排完成协同。

四、实施过程

提示词工程作为上下文工程的基础组成部分，其六大技术手段仍是日常开发的核心技能：

• 零样本提示（Zero-shot）：直接下发任务，不提供案例
• 少样本提示（Few-shot）：附带"问题+标准答案"示例让模型模仿
• 角色提示（Role Prompting）：赋予固定身份约束思考视角
• 思维链提示（CoT）：引导分步推理，如 Let's think step by step
• 输出格式约束：强制 JSON、列表等固定结构，方便程序读取
• 正负向约束：明确"需要做什么"和"禁止做什么"

上下文工程落地要点：

• 解决大模型根本性不对称（理解强、长输出弱）
• 通过记忆、检索、压缩等策略降低幻觉与 Token 成本
• 评估采用组件级（大海捞针测试）+ 系统级（RAG/记忆/工具/多智能体端到端）双轨

五、应用价值

• 节省成本：自动过滤无效内容、压缩文本，减少 Token 消耗
• 快速适配：无需重新训练大模型，靠调整输入信息适配新场景
• 提升效果：复杂推理、少样本学习、专业领域任务显著提升
• 行业共识：上下文质量始终是决定大模型应用效果的最核心因素

六、SEO关键词

上下文工程, Context Engineering, 提示词工程, 大模型, LLM, RAG, 多智能体, 上下文管理, 思维链, Agent