跳转到主要内容
如果你的产品让用户通过文字描述生成图片或视频,账户审核会在通用账户审核清单之外,逐项核对本页的全部要求。提交审核前把这里的每一项都做到位 —— 它们直接决定 AI 生成类产品能否通过。
本页适用于具备 AI 生图或生视频能力的产品。如果你的产品构建在 AI 模型之上(即「AI wrapper / 套壳产品」),审核正是通过这些要求来区分正规产品与简单包装的模型。

​
审核看什么

独立品牌

要求: 用你自己的产品名称与标识。不允许: 把自己当作某 AI 模型品牌来营销(如「官方 GPT 应用」),或把模型的名称/logo 当成自己的。

诚实营销

要求: 如实描述产品能做什么。不允许: 夸大能力、暗示获得模型提供方背书,或隐瞒输出是 AI 生成的。

审核到位

要求: 对提示词与输出运行内容审核步骤 —— 自建方案或接入 Prompt Sift。不允许: 直接透传未经审核的原始模型输出。

公开内容政策

要求: 一份公开的使用规范,涵盖禁止内容、举报与处置 —— 可直接使用 AUP 模板。不允许: 没有政策,或政策与实际产品对不上。

​
底层模型披露

商户须明确披露平台实际使用的底层 AI 模型,披露方式接受以下任一形式:
  • 文档式:在关于页、定价页、条款页或专项说明页中列出所用模型名称;
  • 界面式:在生图/生视频使用界面中,用户可直接看到并选择不同底层模型(如下拉菜单、模型切换器、模型卡片等),每个选项清晰标注模型名称。
披露须满足以下全部条件:
  • 模型名称真实、具体,不得笼统表述为「AI 技术」「先进模型」「30+ 模型」等;
  • 所用模型须为业界主流(如 Flux、Seedream、Nano Banana/Gemini、GPT Image、Veo、Kling、Seedance、Wan 等);
  • 不得存在包装或虚标:不得蹭官方品牌、不得虚报版本号、不得使用来源不明的无安全护栏模型;
  • 若提供多模型选择,每个可选模型均须满足上述要求,且切换模型不得绕过内容安全过滤。
如实披露底层模型与「独立品牌」要求并不冲突:在文档或界面中列出「本产品基于 Flux、Kling 生成图像/视频」是合规的披露;把模型名称或 logo 当作自己的品牌来营销(如自称「官方 GPT 应用」)才是违规。

​
内容审核 API —— Waffo Prompt Sift

平台侧内容审核是硬性要求(见下方内容政策要求)。你可以自建审核方案,也可以直接接入 Waffo 为 AI 生成场景提供的内容安全检测 —— Prompt Sift。

​
审核体系怎么搭

1. 在多个阶段部署扫描。
  • 内容生成前 —— 实时扫描用户提示词(Prompt Sift 覆盖这一阶段)。
  • 内容生成后、展示前 —— 扫描 AI 输出结果,再呈现给用户。
  • 内容发布后 —— 如果产品有作品广场/公开画廊,对已发布的图像/视频做异步扫描。
前两个阶段至少要覆盖;只要用户作品会公开可见,就应加上第三个。 2. 维护主动更新的违禁词 / 提示词屏蔽库。 至少涵盖:色情/NSFW 内容术语;儿童性剥削(CSAM)相关词汇;版权角色/品牌/商标名称;暴力、仇恨言论、自我伤害;Deepfake/名人/政治人物。「主动更新」本身就是要求的一部分 —— 一次性内置的静态词表不算数。 3. 留存审核日志。 AI 审核模型的输出与人工复核结果都要保留,审核时可能要求提供。

​
Prompt Sift 是什么

在你把用户的文字描述交给生成模型之前,先发给 Waffo 做一次安全检测。Prompt Sift 主要帮你拦截可能涉及儿童相关不当内容的请求 —— 这是行业内的通行做法(OpenAI、Google、Civitai 等主流 AI 生成平台都在这么做),既保护你的用户和产品,也帮你满足本页的合规要求。

​
怎么接入

1

你的用户输入一段生成描述(prompt)

用户为生成图片或视频提交的任意文字描述。
2

你的产品先调用 Waffo 的检测接口

把提示词发送到检测端点 https://api.waffo.ai/v1/actions/verification/scan-prompt。
3

根据返回结果处理

  • 通过 → 正常调用你的生成模型,流程不受影响。
  • 拦截 → 不要生成,给用户一个友好提示(比如「该内容不符合使用规范」)。
  • 待复核 → 短暂等待(通常在 1 小时内出结果),我们的人工团队会做最终判断。

​
你会得到什么

一个简单的 API:把用户的文字描述传给我们,我们返回明确的判断结果,几乎不影响你的产品流程。

内容安全 API 参考

端点参考、请求/响应格式与接入示例。
想用 SDK？Waffo 官方 SDK（TypeScript / Go）已将其封装为 client.contentSafety.scanPrompt(...)，是最快的接入方式。

SDK 接入指南

安装并鉴权 TypeScript 或 Go SDK，一个方法即可调用内容安全检测。
只要用户输入文字提示词、你的产品据此生成图片或视频,审核就会要求对提示词有审核步骤 —— 接入 Prompt Sift 是最快的实现方式。

​
内容政策要求

商户须在网站设立独立 AUP 页面,或在服务条款中设专章,且须包含以下全部内容。 六类禁止生成内容(须逐一列出,不得笼统):
  • 色情 / NSFW
  • 暴力 / 血腥
  • 仇恨言论
  • 儿童不安全内容(CSAM)
  • 深度伪造 / 冒充他人(Deepfake)
  • 侵犯版权 / 商标
配套机制:
  • 违规处置机制 —— 账号封禁、额度清零、内容删除等。
  • 用户举报渠道 —— 用户可举报违规生成内容,并说明平台如何处理举报。
  • 平台侧内容审核机制说明 —— 你的审核流程(自动过滤、人工复核等)。

AUP 模板

一份完整的使用规范模板,覆盖上述全部要求 —— 六类禁止内容逐一列出,处置、举报与审核机制齐备。替换占位符即可发布。

​
申请审核前过一遍

🔴 是决定 AI 生成类产品能否通过的项;🟡 是能加强通过把握的项。
1

🔴 必须做完

  • 产品使用独立品牌 —— 不把 AI 模型的名称或 logo 当成自己的
  • 营销如实 —— 不夸大能力,不暗示提供方背书
  • 底层模型已披露,真实、具体且为业界主流(模型披露)
  • 对提示词与输出运行审核步骤 —— 自建或接入 Prompt Sift
  • 公开的 AUP 页面或条款专章逐一列出六类禁止内容(内容政策)
  • 至少有一个真实、有人值守的用户举报渠道
  • 政策中的处置措施是你确实能执行的
2

🟡 强烈建议

  • 输出被标注或以其他方式披露为 AI 生成
  • 为被误处置的用户提供申诉路径
  • 如允许任何受限内容,已具备年龄验证