Skip to main content
内容安全端点让你在产品生成图片或视频之前,对用户的文本提示词运行 Waffo 内容安全检查。发送提示词,返回明确的判定结果,只有判定为 allow 时才继续生成。该检查无状态 —— 返回响应后不留存提示词原文。 这是满足 AIGC 合规中生成前审核要求的最快方式。搭配生成后阶段的检查即可实现完整覆盖。

检查内容

该检查会筛查提示词中不宜生成的内容,重点关注儿童不安全内容 —— 这是所有主流 AI 生成平台都会拦截的类别。当提示词命中一个或多个受限类别时,检查会返回非 allow 的判定,并列出命中的类别。

判定结果

action 字段承载判定结果。仅在 allow 时继续生成。
将 allow 视为唯一的放行信号。review 与 block 都表示”暂不生成”。

原因码

reasonCode 字段以机器可读的形式解释判定结果。
当审核服务暂时不可用时,检查会返回 review(附带 service_degraded),以确保没有判定结果时不会生成任何内容。收到降级响应时应重试请求,而不是直接生成。

使用方式

1

收集用户提示词

用户提交的用于图片或视频生成的任意文本描述。
2

生成前调用 scan-prompt

将提示词发送给 scan-prompt 并读取 action 字段。
3

根据判定采取操作

  • allow → 调用你的生成模型。
  • review → 暂缓请求并稍后重试;通常约 1 小时内出结果。
  • block → 不要生成;展示友好提示,例如”该内容不符合我们的使用规范”。

端点

扫描提示词

对生成提示词进行检查,返回 allow / review / block 判定。