allow の場合にのみ生成に進みます。このチェックはステートレスで、レスポンス返却後にプロンプト本文を保持しません。
これは AIGC コンプライアンスの生成前モデレーション要件を満たす最速の方法です。生成後段階のチェックと組み合わせることで、完全なカバレッジを実現できます。
チェック内容
このチェックは、生成すべきでないコンテンツをプロンプトから検出します。特に児童に安全でないコンテンツ —— すべての主要な AI 生成プラットフォームが遮断するカテゴリ —— に重点を置いています。プロンプトが1つ以上の制限カテゴリに一致した場合、allow 以外の判定を返し、一致したカテゴリを列挙します。
判定
action フィールドが判定を保持します。allow の場合にのみ生成に進んでください。
allow のみを続行の合図として扱ってください。review と block はどちらも「まだ生成しない」を意味します。理由コード
reasonCode フィールドは判定を機械可読な形式で説明します。
モデレーションサービスが一時的に利用できない場合、チェックは
review（service_degraded 付き）を返し、判定なしで何も生成されないようにします。デグレード応答を受け取った場合は、生成せずにリクエストをリトライしてください。使い方
1
ユーザーのプロンプトを収集する
ユーザーが画像・動画生成のために送信した任意のテキスト説明。
2
生成前に scan-prompt を呼び出す
プロンプトを
scan-prompt に送信し、action フィールドを読み取ります。3
判定に応じて対応する
allow→ 生成モデルを呼び出す。review→ リクエストを保留し、後でリトライする。通常は約1時間以内に結果が出る。block→ 生成しない。「このコンテンツは当社の利用ガイドラインに適合しません」などのフレンドリーなメッセージを表示する。
エンドポイント
プロンプトのスキャン
生成プロンプトをチェックし、allow / review / block の判定を返します。