allow 时才继续生成。该检查无状态 —— 返回响应后不留存提示词原文。
这是满足 AIGC 合规中生成前审核要求的最快方式。搭配生成后阶段的检查即可实现完整覆盖。
检查内容
该检查会筛查提示词中不宜生成的内容,重点关注儿童不安全内容 —— 这是所有主流 AI 生成平台都会拦截的类别。当提示词命中一个或多个受限类别时,检查会返回非allow 的判定,并列出命中的类别。
判定结果
action 字段承载判定结果。仅在 allow 时继续生成。
将
allow 视为唯一的放行信号。review 与 block 都表示”暂不生成”。原因码
reasonCode 字段以机器可读的形式解释判定结果。
当审核服务暂时不可用时,检查会返回
review(附带 service_degraded),以确保没有判定结果时不会生成任何内容。收到降级响应时应重试请求,而不是直接生成。使用方式
1
收集用户提示词
用户提交的用于图片或视频生成的任意文本描述。
2
生成前调用 scan-prompt
将提示词发送给
scan-prompt 并读取 action 字段。3
根据判定采取操作
allow→ 调用你的生成模型。review→ 暂缓请求并稍后重试;通常约 1 小时内出结果。block→ 不要生成;展示友好提示,例如”该内容不符合我们的使用规范”。
端点
扫描提示词
对生成提示词进行检查,返回 allow / review / block 判定。