AIGC 合规

如果你的产品让用户通过文字描述生成图片或视频,账户审核会在通用账户审核清单之外,逐项核对本页的全部要求。提交审核前把这里的每一项都做到位 —— 它们直接决定 AI 生成类产品能否通过。

​

审核看什么

​

底层模型披露

商户须明确披露平台实际使用的底层 AI 模型,披露方式接受以下任一形式:

• 文档式:在关于页、定价页、条款页或专项说明页中列出所用模型名称;
• 界面式:在生图/生视频使用界面中,用户可直接看到并选择不同底层模型(如下拉菜单、模型切换器、模型卡片等),每个选项清晰标注模型名称。

披露须满足以下全部条件:

• 模型名称真实、具体,不得笼统表述为「AI 技术」「先进模型」「30+ 模型」等;
• 所用模型须为业界主流(如 Flux、Seedream、Nano Banana/Gemini、GPT Image、Veo、Kling、Seedance、Wan 等);
• 不得存在包装或虚标:不得蹭官方品牌、不得虚报版本号、不得使用来源不明的无安全护栏模型;
• 若提供多模型选择,每个可选模型均须满足上述要求,且切换模型不得绕过内容安全过滤。

​

内容审核 API —— Waffo Prompt Sift

平台侧内容审核是硬性要求(见下方内容政策要求)。你可以自建审核方案,也可以直接接入 Waffo 为 AI 生成场景提供的内容安全检测 —— Prompt Sift。

​

审核体系怎么搭

1. 在多个阶段部署扫描。

• 内容生成前 —— 实时扫描用户提示词(Prompt Sift 覆盖这一阶段)。
• 内容生成后、展示前 —— 扫描 AI 输出结果,再呈现给用户。
• 内容发布后 —— 如果产品有作品广场/公开画廊,对已发布的图像/视频做异步扫描。

前两个阶段至少要覆盖;只要用户作品会公开可见,就应加上第三个。 2. 维护主动更新的违禁词 / 提示词屏蔽库。 至少涵盖:色情/NSFW 内容术语;儿童性剥削(CSAM)相关词汇;版权角色/品牌/商标名称;暴力、仇恨言论、自我伤害;Deepfake/名人/政治人物。「主动更新」本身就是要求的一部分 —— 一次性内置的静态词表不算数。 3. 留存审核日志。 AI 审核模型的输出与人工复核结果都要保留,审核时可能要求提供。

​

Prompt Sift 是什么

在你把用户的文字描述交给生成模型之前,先发给 Waffo 做一次安全检测。Prompt Sift 主要帮你拦截可能涉及儿童相关不当内容的请求 —— 这是行业内的通行做法(OpenAI、Google、Civitai 等主流 AI 生成平台都在这么做),既保护你的用户和产品,也帮你满足本页的合规要求。

​

怎么接入

​

你会得到什么

一个简单的 API:把用户的文字描述传给我们,我们返回明确的判断结果,几乎不影响你的产品流程。 想用 SDK？Waffo 官方 SDK（TypeScript / Go）已将其封装为 client.contentSafety.scanPrompt(...)，是最快的接入方式。

​

内容政策要求

商户须在网站设立独立 AUP 页面,或在服务条款中设专章,且须包含以下全部内容。 六类禁止生成内容(须逐一列出,不得笼统):

• 色情 / NSFW
• 暴力 / 血腥
• 仇恨言论
• 儿童不安全内容(CSAM)
• 深度伪造 / 冒充他人(Deepfake)—— 认定标准见深度伪造认定
• 侵犯版权 / 商标

配套机制:

• 违规处置机制 —— 账号封禁、额度清零、内容删除等。
• 用户举报渠道 —— 用户可举报违规生成内容,并说明平台如何处理举报。
• 平台侧内容审核机制说明 —— 你的审核流程(自动过滤、人工复核等)。

​

真人素材上传授权

如果产品允许用户上传真人照片或声音素材,你的服务条款或 AUP 须对上传素材的来源作出明确限制。以下任一方式均可:

• 在条款中明确禁止上传未经本人同意的他人照片或声音;
• 在上传时要求用户主动确认「我上传的是本人素材,或已获得素材中人物的授权」。

AUP 模板第 2.4 节提供了可直接使用的条款。

​

深度伪造(Deepfake)认定

以真人深度伪造为核心业务的产品属于禁止品类,在任何支付渠道都无法受理。这不只是内容政策里要禁止用户生成的内容 —— 产品本身提供这类功能,就无法通过审核。 定义: 生成结果把一个真实人物的身份、面部替换或伪装成另一个真实人物,或把两个真实人物凭空合成进一段虚构的亲密互动场景 —— 不论当事人是否同意。

​

四种命中形态

1. 换脸(Face Swap) 把 A 的脸替换到 B 的照片或视频上,或让 A 的照片「变成」另一个具体的真实人物 —— 名人、公众人物、普通用户之间的互换都算。只要网站上有「换脸」相关的功能入口或菜单项,即视为命中。 真实案例:印度演员 Rashmika Mandanna 的脸被换到他人身体上,制成在网络上病毒式传播的视频,引发公众对深度伪造技术的关注(NewsBytes 报道;案例汇总见 HyperVerge:20+ 真实深度伪造案例)。 2. 一键脱衣(Deep Nude) 作用于真实人物照片,生成裸露或性化内容。 真实案例:CBS News 调查发现 Meta 旗下 Instagram 和 Facebook 上有大量推广「一键脱衣」AI 工具的广告(CBS News 报道);多个司法辖区已开始立法专门打击这类 nudify 应用(明尼苏达州立法案例)。 3. 双人亲密场景合成(Kiss / Hug 类) 把两个真实人物合成进同一段接吻、拥抱或其他亲密互动场景 —— 不论素材是用户上传的一张已有合照,还是分别上传的两张单人照。 真实案例:意大利总理 Giorgia Meloni 与 Elon Musk「接吻」的 AI 合成视频在社交媒体上广泛传播,引发关于深度伪造滥用的伦理讨论(OECD.AI 事件记录;Euronews 报道)。 4. 虚假言论 / 行为合成 让真实人物「说」或「做」其从未说过、做过的事 —— 不限于视频,静态图片同样命中。只要生成结果把一个真实人物(尤其是公众人物或名人)放进一个凭空捏造、现实中并未发生过的场景、动作或事件,即构成此类违规。 真实案例:2022 年,一段乌克兰总统泽连斯基呼吁乌军投降的深度伪造视频被黑客植入电视直播,这番话他本人从未说过(Britannica:Deepfake)。

​

申请审核前过一遍

🔴 是决定 AI 生成类产品能否通过的项;🟡 是能加强通过把握的项。