跳转到主要内容
内容安全端点让你在产品生成图片或视频之前,对用户的文本提示词运行 Waffo 内容安全检查。发送提示词,返回明确的判定结果,只有判定为 allow 时才继续生成。该检查无状态 —— 返回响应后不留存提示词原文。 这是满足 AIGC 合规中生成前审核要求的最快方式。搭配生成后阶段的检查即可实现完整覆盖。

检查内容

该检查会筛查提示词中不宜生成的内容,重点关注儿童不安全内容 —— 这是所有主流 AI 生成平台都会拦截的类别。当提示词命中一个或多个受限类别时,检查会返回非 allow 的判定,并列出命中的类别。

判定结果

action 字段承载判定结果。仅在 allow 时继续生成。
allow 视为唯一的放行信号。reviewblock 都表示”暂不生成”。

原因码

reasonCode 字段以机器可读的形式解释判定结果。
当审核服务暂时不可用时,检查会返回 review(附带 service_degraded),以确保没有判定结果时不会生成任何内容。收到降级响应时应重试请求,而不是直接生成。

使用方式

1

收集用户提示词

用户提交的用于图片或视频生成的任意文本描述。
2

生成前调用 scan-prompt

将提示词发送给 scan-prompt 并读取 action 字段。
3

根据判定采取操作

  • allow → 调用你的生成模型。
  • review → 暂缓请求并稍后重试;通常约 1 小时内出结果。
  • block → 不要生成;展示友好提示,例如”该内容不符合我们的使用规范”。

端点

扫描提示词

对生成提示词进行检查,返回 allow / review / block 判定。