本ページは AI による画像または動画の生成機能を持つプロダクトに適用されます。AI モデルの上に構築されたプロダクト(いわゆる「AI ラッパー」)の場合、審査はこれらの要件によって、正当なプロダクトと単なるモデルの再パッケージとを見分けます。
審査で確認されること
独立したブランディング
必須: 自社のプロダクト名とアイデンティティを使う。不可: AI モデルブランド として 自らを宣伝する(例「公式 GPT アプリ」)、モデルの名称/ロゴを自社のものとして使う。
誠実なマーケティング
必須: プロダクトが実際にできることを記述。不可: 能力の誇張、プロバイダーによる推奨の示唆、出力が AI 生成であることの隠蔽。
モデレーションの実装
必須: プロンプトと出力にコンテンツモデレーションを実行 —— 自社実装または Prompt Sift の導入。不可: 未モデレーションの生モデル出力のパススルー。
公開されたコンテンツポリシー
必須: 禁止コンテンツ、通報、エンフォースメントを網羅した公開の利用規定 —— AUP テンプレートをそのまま使えます。不可: ポリシーがない、または実際のプロダクトと一致しない。
基盤モデルの開示
プラットフォームが実際に使用している基盤 AI モデルを明確に開示する必要があります。開示は以下のいずれかの形式が認められます:- ドキュメント型:About ページ、料金ページ、規約ページ、または専用の説明ページに使用モデル名を記載;
- インターフェース型:画像/動画生成の利用画面で、ユーザーが異なる基盤モデルを直接確認・選択できる(ドロップダウン、モデル切替、モデルカードなど)。各選択肢にモデル名を明記。
- モデル名が真実かつ具体的であること。「AI 技術」「先進モデル」「30+ モデル」などの曖昧な表現は不可;
- 使用モデルが業界主流であること(例:Flux、Seedream、Nano Banana/Gemini、GPT Image、Veo、Kling、Seedance、Wan など);
- 偽装や虚偽表示がないこと:公式ブランドへの便乗、バージョンの水増し、出所不明でセーフガードのないモデルの使用は不可;
- 複数モデルを提供する場合、選択可能なすべてのモデルが上記要件を満たすこと。またモデル切替によってコンテンツ安全フィルターを回避できないこと。
基盤モデルの誠実な開示は「独立したブランディング」要件と矛盾しません。ドキュメントや UI で「本プロダクトは Flux と Kling で画像/動画を生成しています」と記載するのは適正な開示であり、モデルの名称やロゴを自社ブランド として 宣伝すること(例「公式 GPT アプリ」)が違反にあたります。
コンテンツモデレーション API —— Waffo Prompt Sift
プラットフォーム側のコンテンツモデレーションは必須要件です(下記のコンテンツポリシー要件参照)。自社で実装することも、Waffo が AI 生成向けに提供するコンテンツ安全チェック Prompt Sift を導入することもできます。モデレーション体制の作り方
1. 複数の段階でスキャンを配置する。- 生成前 —— ユーザーのプロンプトをリアルタイムでスキャン(Prompt Sift がこの段階をカバー)。
- 生成後・表示前 —— AI の出力をユーザーに見せる前にスキャン。
- 公開後 —— 作品ギャラリーや公開フィードがある場合、公開済みの画像/動画を非同期でスキャン。
Prompt Sift とは
ユーザーのテキストプロンプトを生成モデルに渡す前に、まず Waffo に送って安全チェックを行います。Prompt Sift は主に児童関連の不適切なコンテンツに関わるリクエストの遮断を支援します —— これは業界の標準的な実務であり(OpenAI、Google、Civitai など主要な AI 生成プラットフォームはいずれも同等のチェックを実施しています)、ユーザーとプロダクトを保護すると同時に、本ページのコンプライアンス要件を満たす助けになります。導入の流れ
1
ユーザーが生成用のプロンプトを入力
画像または動画の生成のためにユーザーが送信するテキスト記述。
2
生成の前に Waffo のチェック API を呼び出す
プロンプトをチェックエンドポイント
https://api.waffo.ai/v1/actions/verification/scan-prompt に送信します。3
判定結果に応じて処理
- 通過 → 通常どおり生成モデルを呼び出す。フローへの影響なし。
- ブロック → 生成せず、ユーザーにわかりやすいメッセージを表示(例「このコンテンツは利用規定に適合しません」)。
- 審査待ち → 少し待機(通常 1 時間以内に結果が出ます)。当社の人手レビューチームが最終判断を行います。
得られるもの
シンプルな API です:ユーザーのテキストプロンプトを送ると、明確な判定結果を返します。プロダクトのフローへの影響はほとんどありません。コンテンツセーフティ API リファレンス
エンドポイントリファレンス、リクエスト/レスポンス形式、導入例。
client.contentSafety.scanPrompt(...) としてラップしており、最短の統合方法です。
SDK 統合ガイド
TypeScript または Go SDK をインストール・認証すれば、1 つのメソッドでコンテンツセーフティを呼び出せます。
コンテンツポリシー要件
ウェブサイトに独立した AUP ページを設けるか、利用規約内に専用の章を設け、以下のすべてを含める必要があります。 6 つの禁止生成カテゴリー(1 つずつ明記。曖昧な包括表現は不可):- ポルノ / NSFW
- 暴力 / グロテスク
- ヘイトスピーチ
- 児童に有害なコンテンツ(CSAM)
- ディープフェイク / なりすまし
- 著作権 / 商標の侵害
- 違反時のエンフォースメント —— アカウント BAN、クレジット没収、コンテンツ削除など。
- ユーザー通報チャネル —— ユーザーが違反生成コンテンツを通報でき、通報の処理方法を説明していること。
- プラットフォーム側のコンテンツモデレーション体制の説明 —— 審査フロー(自動フィルタリング、人手レビューなど)。
AUP テンプレート
上記のすべてを網羅した完全な利用規定テンプレート —— 6 つの禁止カテゴリーを 1 つずつ列挙し、エンフォースメント、通報、モデレーションの各条項を完備。プレースホルダーを置き換えて公開するだけです。
審査依頼の前にチェック
🔴 は AI 生成系プロダクトの承認可否を決める項目。🟡 は承認の確度を高める項目。1
🔴 必須
- プロダクトが独立したブランディングを使用 —— AI モデルの名称やロゴを自社のものとしない
- マーケティングが正確 —— 能力を誇張せず、プロバイダーの推奨を示唆しない
- 基盤モデルを開示済み —— 真実かつ具体的で、業界主流モデルであること(モデル開示)
- プロンプトと出力にモデレーションステップを実行 —— 自社実装または Prompt Sift
- 公開の AUP ページまたは規約の専用章で 6 つの禁止カテゴリーを 1 つずつ明記(コンテンツポリシー)
- 少なくとも 1 つの実在し監視されたユーザー通報チャネルがある
- ポリシーに記載したエンフォースメント措置が実際に実行可能なもの
2
🟡 強く推奨
- 出力が AI 生成であるとラベル付けまたは開示されている
- 誤って措置されたユーザーのための申立て経路がある
- 制限コンテンツを許可する場合、年齢確認を実装済み