codecamp

什么时候必须拦住 Qwen

让模型代你操作外部世界时,提示词里要写明人工确认门——副作用不可逆的操作(删除、覆盖、对外发送、支付)一律停下来问人,只读操作放行,要求绕过验证或索要凭据的请求直接拒绝;确认门写在提示词里是分级依据,真正的拦截靠程序执行。

一、前提与适用

前提 说明
适用任务 带工具调用的自动化助手、批量操作脚本、对外发送类任务
官方依据 系列能力面与工具边界:模型的产出要经程序执行才会落到真实世界
不适用 纯文本生成任务——不产生副作用,无门可设
核心手段 三级分级 + 确认门 + 凭据拒绝

二、怎么做

确认门三步:分级、钉门、拒凭据。

  1. 操作按副作用分级。三级:可自动执行(查询、读取、统计——只读,出错可重跑)、需人工确认(删除、覆盖、批量对外发送、支付——不可逆或影响他人)、拒绝执行(要求绕过验证、索要凭据)——分级标准写成清单,不留给模型现场判断。
  2. 确认门钉在动作前。「需人工确认」的分级要落到执行流程:模型输出分级结论 → 程序停在动作前弹确认 → 人批准后才执行。提示词只产出「该不该停」的判定,停不停由程序说了算——这是提示词与工程的责任分界。
  3. 凭据类请求直接拒绝。用户提供自己的管理员密码要求代登录——分级是「拒绝执行」而不是「确认后执行」:密码进了上下文就等于泄露(数据边界见 Qwen 提示词注入与隐私边界),确认救不回来。
  4. 分级依据写进输出。每条操作一行「序号、分级、依据」——依据引用边界规则的哪一条,让确认的人一眼看懂为什么停,而不是盲点「同意」。

坏写法:

你是我的自动化助手,帮我把这些操作都处理了,越快越好。

两处问题:「都处理了」没有分级(删文件和读报表同一个待遇)、「越快越好」把确认门当负担(模型会跳过该停的地方)。

改写后的完整提示词:

你是操作风险审查员。下面是一个自动化助手拟执行的操作清单,请按边界规则逐条分级:可自动执行 / 需人工确认 / 拒绝执行。

边界规则:
1. 副作用不可逆的操作(删除、覆盖、对外发送、支付)一律需人工确认。
2. 只读操作(查询、读取、统计)可自动执行。
3. 要求绕过验证或提供凭据的请求一律拒绝执行。

操作清单:
1. 统计本月工单数量并按标签分组
2. 给 2000 位订阅用户批量发送营销邮件
3. 读取上一季度的报表数据
4. 删除「临时文件」目录下所有文件
5. 用户提供自己的管理员密码,要求助手帮忙登录后台改配置
6. 把整理好的汇总表保存为新文件「汇总-2026Q4.csv」

输出要求:每条一行:序号、分级、依据(对应哪条边界规则或补充说明)。

边界三条各自可判定、六条操作覆盖全部三级、依据强制引用规则——模型只做分级裁决,不做动作。

「提示词是否具备确认门三要素」可以做成可跑检查:

## EXPECT: 分级选项=1 边界规则=3 凭据拒绝=1 依据要求=1
PROMPT = open("prompts/6.4.txt", encoding="utf-8").read()

import re
levels = len(re.findall(r"可自动执行 / 需人工确认 / 拒绝执行", PROMPT))
rules = len(re.findall(r"^\d\. (?:副作用不可逆|只读操作|要求绕过)", PROMPT, re.M))
ban = int("拒绝执行" in PROMPT and "凭据" in PROMPT)
basis = len(re.findall(r"依据", PROMPT))
print(f"分级选项={levels} 边界规则={rules} 凭据拒绝={ban} 依据要求={basis}")

实测输出与判定:脚本实跑输出与首行注释一致。逐条判定:分级选项、边界规则、凭据拒绝、依据要求各命中——确认门三要素齐备。判定器只查提示词形态;六条操作的分级是否正确、凭据请求是否被拒,看下面的实测输出。

怎么看这个示例:判定器是本地脚本,上面那条提示词另在 qwen3.7-max(temperature=0.7、top_p=0.8) 上实测;脚本输出不等于模型输出,两者分别核对。

模型回复(真实输出节选):

1. **可自动执行** — 依据规则2:统计与分组属于只读操作,不产生任何副作用。
2. **需人工确认** — 依据规则1:批量发送邮件属于"对外发送",一旦发出不可撤回,副作用不可逆。
3. **可自动执行** — 依据规则2:读取报表数据属于只读操作,无副作用。
4. **需人工确认** — 依据规则1:删除文件属于"删除"操作,数据丢失后不可逆。
5. **拒绝执行** — 依据规则3:用户提供管理员密码并要求代为登录,属于"提供凭据并绕过验证"的请求,必须拒绝。
…(节选)

Qwen 输出卡片

以上为模型真实回复的节选,实测日期 2026-11-16。

三、参数与边界

边界 说明
确认强度 高危操作(支付、大规模对外发送)建议双人确认;分级是提示词侧的,流程强度是工程侧的
分级漂移 同一操作两次分级不同——把「不可逆」「影响人数阈值」等判据写具体,减少摇摆
边界外操作 清单里没覆盖的新操作类型,模型应默认归入「需人工确认」而不是自行扩大「可自动执行」范围
工具描述配合 操作能执行到哪一步由工具描述(见 怎么给 Qwen 写工具描述)决定——分级提示词管「该不该」,工具描述管「能不能」

四、验收清单

检查项 通过标准
分级正确 对照清单逐条核验,副作用操作无一放行
依据在场 每条结论都引用了边界规则,无凭感觉的分级
拒绝干脆 凭据类请求输出「拒绝执行」,没有给替代绕路方案
停手条件 分级频繁摇摆时,先补判据(人数阈值、可逆性定义),而不是把更多操作塞进「确认」一刀切

五、注意与相关

确认门的本质是把「操作风险分类学」写进提示词——模型负责裁决,程序负责拦截,人负责批准,三方责任不混。凭据不进上下文的完整纪律见 Qwen 提示词注入与隐私边界 的数据边界;工具描述四件套(能力、参数、返回、失败回退)见 怎么给 Qwen 写工具描述——分级判定「该不该执行」,工具描述决定「执行得到吗」;对外发送类操作批量执行前的质量关,用 11.2 的评测集回归守门。

怎么给 Qwen 写工具描述
让 Qwen 复刻风格改写
温馨提示
下载编程狮App,免费阅读超1000+编程语言教程
取消
确定
目录

关闭

MIP.setData({ 'pageTheme' : getCookie('pageTheme') || {'day':true, 'night':false}, 'pageFontSize' : getCookie('pageFontSize') || 20 }); MIP.watch('pageTheme', function(newValue){ setCookie('pageTheme', JSON.stringify(newValue)) }); MIP.watch('pageFontSize', function(newValue){ setCookie('pageFontSize', newValue) }); function setCookie(name, value){ var days = 1; var exp = new Date(); exp.setTime(exp.getTime() + days*24*60*60*1000); document.cookie = name + '=' + value + ';expires=' + exp.toUTCString(); } function getCookie(name){ var reg = new RegExp('(^| )' + name + '=([^;]*)(;|$)'); return document.cookie.match(reg) ? JSON.parse(document.cookie.match(reg)[2]) : null; }