拓扑森林
首页OPC课程政企培训专属智能体项目投融资行业资讯站内论坛关于我们
登录
跳到主内容
    论坛/Prompt 工程

    System Prompt 安全加固:防止用户绕过限制

    星辰大海·2025/11/27 22:58:33·0 浏览
    站内论坛
    教程论坛排行榜徽章
    星辰
    星辰大海楼主
    2025/11/27 22:58:33
    格式约束的选择:JSON 适合程序解析但要转义、Markdown 适合阅读但结构松散、XML 标签适合分段但冗余。我的经验是:给 AI 看的用 XML 标签分段,让 AI 输出的用 JSON 或 Markdown,根据下游消费方决定。
    
    Prompt 迭代优化的思路和代码优化一样:先让它跑通,再量化和优化。我每次改 Prompt 都会记录:改动点、测试输入、输出质量评分。积累 20-30 组数据后,就能发现哪些改动有效,哪些是噪音。
    
    Few-shot 示例的选择比数量重要。3 个高质量示例的效果远好于 10 个普通示例。关键是示例要覆盖不同场景:正常情况、边界情况、特殊情况。而且示例的顺序也有影响,把最典型的放第一个。
    
    系统提示词的 token 预算要合理分配。我的经验:角色定义 50 token、技术约束 200 token、格式要求 100 token、示例 300 token。总共控制在 650 token 以内,留足空间给用户输入和 AI 输出。
    查看历史

    6 回复

    1. 栈溢
      栈溢出幸存者第 2 楼2025/11/28 13:22:33
      补充一点:Temperature 0.2 适合代码生成,0.7 适合创意写作,SEO 内容用 0.5。如果有更好的方案求分享。
    2. 拾光
      拾光者第 3 楼2025/12/01 00:06:25
      上周刚好踩了这个坑,角色设定越具体效果越好,「5 年 Next.js 全栈开发者」比「专家」好得多。
    3. 路过
      路过的甲第 4 楼2026/01/03 04:42:57
      我的理解是:长上下文对话中,每 5 轮总结一次进度能防止 AI 跑偏。欢迎私信深入交流。
    4. 代码
      代码诗人第 5 楼2026/01/07 05:06:44
      我的看法略有不同:角色设定越具体效果越好,「5 年 Next.js 全栈开发者」比「专家」好得多。如果有更好的方案求分享。
    5. 像素
      像素调配师第 6 楼2026/01/25 20:24:14
      我的看法略有不同:Few-shot 示例我一般给 3 个,多了反而过拟合,少了不够稳定。
    6. 吃代
      吃代码的猫第 7 楼2026/03/22 23:54:31
      Few-shot 示例我一般给 3 个,多了反而过拟合,少了不够稳定。
    登录后可回复
    星辰

    星辰大海

    楼主个人主页

    帖子信息

    6 回复
    0 浏览
    0 赞
    0 收藏
    回复