RAG + Prompt 工程是让 AI 基于私有文档回答的标准方案。关键在于检索质量：chunk 大小设 500-1000 字符，重叠 100 字符，用语义检索而非关键词匹配。Prompt 里告诉 AI「只基于提供的上下文回答，不确定时说不知道」，能大幅减少幻觉。 格式约束的选择：JSON 适合程序解析但要转义、Markdown 适合阅读但结构松散、XML 标签适合分段但冗余。我的经验是：给 AI 看的用 XML 标签分段，让 AI 输出的用 JSON 或 Markdown，根据下游消费方决定。 Prompt 迭代优化的思路和代码优化一样：先让它跑通，再量化和优化。我每次改 Prompt 都会记录：改动点、测试输入、输出质量评分。积累 20-30 组数据后，就能发现哪些改动有效，哪些是噪音。
讲个真实案例：角色设定越具体效果越好，「5 年 Next.js 全栈开发者」比「专家」好得多。
我的踩坑经验：长上下文对话中，每 5 轮总结一次进度能防止 AI 跑偏。一起学习。
这个方案我试过，Few-shot 示例我一般给 3 个，多了反而过拟合，少了不够稳定。希望对你有帮助。
这个方案我试过，降 AI 率最有效的是让 AI 模仿口语化表达，加入「我觉得」「说实话」这类词。
我的结论恰恰相反：Prompt 模板用变量占位符 `{{role}}` 管理，比硬编码灵活得多。这只是个人经验，不一定通用。我的项目里也用了这个方案，JSON 输出加「只输出 JSON，不要 markdown 代码块」这个约束很关键。一起学习。
我的团队是这样做的：Prompt 模板用变量占位符 `{{role}}` 管理，比硬编码灵活得多。实践出真知，建议动手试试。我之前也遇到过类似问题，Few-shot 示例我一般给 3 个，多了反而过拟合，少了不够稳定。欢迎交流讨论。
有个相关问题想请教：Prompt Chain 比单个大 Prompt 效果好，但要多花 2-3 倍 token。后续有新发现再来更新。
这个思路很巧妙，负面指令（「不要用 var」）比正面指令（「用 const」）效果更好。一起学习。
我的理解是：降 AI 率最有效的是让 AI 模仿口语化表达，加入「我觉得」「说实话」这类词。欢迎私信深入交流。
这个问题我研究过一阵，JSON 输出加「只输出 JSON，不要 markdown 代码块」这个约束很关键。欢迎私信深入交流。
说个反直觉的发现：Few-shot 示例我一般给 3 个，多了反而过拟合，少了不够稳定。我也还在探索中。
有个相关问题想请教：Temperature 0.2 适合代码生成，0.7 适合创意写作，SEO 内容用 0.5。细节可以再展开讨论。
补充一个可能被忽略的点：Prompt 模板用变量占位符 `{{role}}` 管理，比硬编码灵活得多。如果有更好的方案求分享。我之前也遇到过类似问题，降 AI 率最有效的是让 AI 模仿口语化表达，加入「我觉得」「说实话」这类词。有疑问可以继续问。