> ## Documentation Index
> Fetch the complete documentation index at: https://docs.waffo.ai/llms.txt
> Use this file to discover all available pages before exploring further.

# 内容安全端点

> 生成前对提示词进行内容安全检查

内容安全端点让你在产品生成图片或视频**之前**，对用户的文本提示词运行 Waffo 内容安全检查。发送提示词，返回明确的判定结果，只有判定为 `allow` 时才继续生成。该检查无状态 —— 返回响应后不留存提示词原文。

这是满足 [AIGC 合规](/zh/mor/account-reviews/aigc-compliance)中生成前审核要求的最快方式。搭配生成后阶段的检查即可实现完整覆盖。

## 检查内容

该检查会筛查提示词中不宜生成的内容，重点关注儿童不安全内容 —— 这是所有主流 AI 生成平台都会拦截的类别。当提示词命中一个或多个受限类别时，检查会返回非 `allow` 的判定，并列出命中的类别。

## 判定结果

`action` 字段承载判定结果。仅在 `allow` 时继续生成。

| `action` | 含义             | 应采取的操作            |
| -------- | -------------- | ----------------- |
| `allow`  | 提示词通过检查        | 照常调用你的生成模型        |
| `review` | 提示词需要进一步查看后再决定 | 暂缓请求；通常约 1 小时内出结果 |
| `block`  | 提示词命中受限内容      | 不要生成；向用户展示友好提示    |

<Note>
  将 `allow` 视为唯一的放行信号。`review` 与 `block` 都表示"暂不生成"。
</Note>

## 原因码

`reasonCode` 字段以机器可读的形式解释判定结果。

| `reasonCode`         | 对应 `action` | 含义                     |
| -------------------- | ----------- | ---------------------- |
| `allowed`            | `allow`     | 未检测到受限内容               |
| `review_required`    | `review`    | 暂缓，进一步查看后再决定           |
| `restricted_content` | `block`     | 命中一个或多个受限类别            |
| `service_degraded`   | `review`    | 审核服务暂时不可用，因此暂缓请求而非直接生成 |

<Note>
  当审核服务暂时不可用时，检查会返回 `review`（附带 `service_degraded`），以确保没有判定结果时不会生成任何内容。收到降级响应时应重试请求，而不是直接生成。
</Note>

## 使用方式

<Steps>
  <Step title="收集用户提示词">
    用户提交的用于图片或视频生成的任意文本描述。
  </Step>

  <Step title="生成前调用 scan-prompt">
    将提示词发送给 [`scan-prompt`](/zh/api-reference/endpoints/content-safety/scan-prompt) 并读取 `action` 字段。
  </Step>

  <Step title="根据判定采取操作">
    * `allow` → 调用你的生成模型。
    * `review` → 暂缓请求并稍后重试；通常约 1 小时内出结果。
    * `block` → 不要生成；展示友好提示，例如"该内容不符合我们的使用规范"。
  </Step>
</Steps>

## 端点

<CardGroup cols={1}>
  <Card title="扫描提示词" icon="shield-check" href="/zh/api-reference/endpoints/content-safety/scan-prompt">
    对生成提示词进行检查，返回 allow / review / block 判定。
  </Card>
</CardGroup>