RAG + Prompt 工程是让 AI 基于私有文档回答的标准方案。关键在于检索质量：chunk 大小设 500-1000 字符，重叠 100 字符，用语义检索而非关键词匹配。Prompt 里告诉 AI「只基于提供的上下文回答，不确定时说不知道」，能大幅减少幻觉。 Prompt A/B 测试的方法：准备 20-30 个测试输入，用两个 Prompt 版本分别生成，人工评分或用自动化指标（如代码通过率）。统计显著性需要至少 30 个样本，否则可能是噪音。 上下文窗口管理是个技术活。长对话中 AI 容易「遗忘」早期设定。我的做法是：把关键约束放在系统提示词里（永久），而不是对话中（会被截断）。每轮对话结束时，主动总结当前进度和待办事项，帮助 AI 保持上下文。 格式约束的选择：JSON 适合程序解析但要转义、Markdown 适合阅读但结构松散、XML 标签适合分段但冗余。我的经验是：给 AI 看的用 XML 标签分段，让 AI 输出的用 JSON 或 Markdown，根据下游消费方决定。
补充一点：Prompt 注入防御用 `<system>` 和 `<user>` 标签分层，系统指令放 system 层。希望少走弯路。
这个思路很巧妙，Prompt Chain 比单个大 Prompt 效果好，但要多花 2-3 倍 token。期待更多实战经验分享。
我的踩坑经验：长上下文对话中，每 5 轮总结一次进度能防止 AI 跑偏。有疑问可以继续问。
负面指令（「不要用 var」）比正面指令（「用 const」）效果更好。
我做了类似的对比实验：长上下文对话中，每 5 轮总结一次进度能防止 AI 跑偏。踩了很多坑才总结出来的。
说个反直觉的发现：元提示词（用 AI 优化 Prompt）是个好思路，但需要人工判断哪些建议有效。有疑问可以继续问。
补充一点：负面指令（「不要用 var」）比正面指令（「用 const」）效果更好。如有不对请指正。
这个观点我很认同，Prompt 注入防御用 `<system>` 和 `<user>` 标签分层，系统指令放 system 层。如果有更好的方案求分享。
反对一下，我的测试结果不是这样：长上下文对话中，每 5 轮总结一次进度能防止 AI 跑偏。希望对你有帮助。
不同场景下结论可能不同：角色设定越具体效果越好，「5 年 Next.js 全栈开发者」比「专家」好得多。如有不对请指正。
有个相关问题想请教：Few-shot 示例我一般给 3 个，多了反而过拟合，少了不够稳定。有疑问可以继续问。
反对一下，我的测试结果不是这样：角色设定越具体效果越好，「5 年 Next.js 全栈开发者」比「专家」好得多。仅供参考，具体还是要看你的场景。
我的项目里也用了这个方案，系统提示词里加「不确定时回答不知道」能显著降低幻觉率。欢迎大家补充。
我做了类似的对比实验：Prompt 注入防御用 `<system>` 和 `<user>` 标签分层，系统指令放 system 层。希望对你有帮助。
负面指令（「不要用 var」）比正面指令（「用 const」）效果更好。
这个思路很巧妙，负面指令（「不要用 var」）比正面指令（「用 const」）效果更好。
我的理解是：系统提示词里加「不确定时回答不知道」能显著降低幻觉率。希望对你有帮助。
Few-shot 示例我一般给 3 个，多了反而过拟合，少了不够稳定。
补充一个可能被忽略的点：系统提示词里加「不确定时回答不知道」能显著降低幻觉率。感谢楼主的启发。
我的看法略有不同：Few-shot 示例我一般给 3 个，多了反而过拟合，少了不够稳定。如果有更好的方案求分享。