信任与安全

2 工作流2 响应格式3 后端步骤

内容审核分类器

对照你的社区政策审核用户生成内容，并记录明确的处理决定：通过、标记或拦截。

支持的模型提供商

主模型
备用模型

选择你的提供商与模型，下载的文件会按你的选择生成。

适合谁

  • UGC 平台
  • 社区运营
  • 无代码应用开发者
下载 JSON查看集成指南

数据如何流转

请求会在你的后端与 AI 工作流之间自动流转。以下是请求经过的完整路径。

收到客户请求

AI 工作流

content_moderation_workflow

审核内容并启动决定流水线

后端事件

content_submitted

apply_decision 触发后启动 moderation_decision_workflow

后端事件

decision_recorded

AI 工作流

moderation_decision_workflow

记录最终的审核动作

客户收到回复

你会得到什么

每个模板都由两类部件组成： 工作流 和 响应格式.

工作流

content_moderation_workflow

审核内容并启动决定流水线

工作流

moderation_decision_workflow

记录最终的审核动作

响应格式

moderation_triage_response

对提交内容的初步审核结论

verdictrisk_categoryexplanation

响应格式

moderation_decision_response

最终决定与已执行的动作

final_decisionaction_takennote

详细规格

每个工作流的完整规格说明。以下所有内容都已写入下载的文件中，导入后仍可随时修改。

content_moderation_workflow

审核内容并启动决定流水线

模型与备用模型了解更多
deepseek · deepseek-v4-flash备用 1: anthropic · claude-haiku-4-5-20251001

主模型，以及在主模型不可用时自动启用的备用模型。

响应格式了解更多
moderation_triage_response返回结构化对象，而不是自由文本。

该工作流返回的结构化 JSON。字段由你定义，并由 ModelRiver 强制校验。

使用的客户数据了解更多
content_textcontent_typesubmitter_id

你在每次请求中传入的字段，工作流会据此给出个性化回答。

记忆窗口了解更多
5 分钟

在此时间窗口内，相同请求会直接使用缓存结果，更快也更省钱。

自动化流水线了解更多
content_submittedapply_decision启动 moderation_decision_workflowdecision_recorded
多步流水线如何工作

围绕该工作流按顺序自动运行的步骤。

运行模式了解更多
生产模式

调用你已连接的 AI 提供商实时运行。

moderation_decision_workflow

记录最终的审核动作

模型与备用模型了解更多
anthropic · claude-haiku-4-5-20251001备用 1: deepseek · deepseek-v4-flash

主模型，以及在主模型不可用时自动启用的备用模型。

响应格式了解更多
moderation_decision_response返回结构化对象，而不是自由文本。

该工作流返回的结构化 JSON。字段由你定义，并由 ModelRiver 强制校验。

使用的客户数据了解更多
content_textcontent_typesubmitter_id

你在每次请求中传入的字段，工作流会据此给出个性化回答。

运行模式了解更多
生产模式

调用你已连接的 AI 提供商实时运行。

如何使用

  1. 1

    下载模板

    文件是可移植的 JSON 包，方便分享，也易于阅读。

  2. 2

    在 ModelRiver 中打开一个项目

    登录后选择一个项目，并确保该模板用到的 AI 提供商已连接。你可以在「提供商」中完成连接。

  3. 3

    导入模板

    在项目中点击「导入」，粘贴或上传文件，确认预览后完成导入。所有内容以原子方式创建，不会覆盖任何已有数据。 导入与导出如何工作

模板文件

技术用户可以在下方查看原始模板文件。

查看完整模板 JSON
modelriver-content-moderation-template-v1.json3.1 KB
{
  "version": 1,
  "structures": [
    {
      "name": "moderation_triage_response",
      "description": "对提交内容的初步审核结论",
      "example": {
        "verdict": "flag",
        "risk_category": "spam",
        "explanation": "重复发送推广链接，无原创内容。"
      },
      "schema": {
        "type": "object",
        "properties": {
          "verdict": {
            "type": "string",
            "enum": [
              "approve",
              "flag",
              "block"
            ]
          },
          "risk_category": {
            "type": "string"
          },
          "explanation": {
            "type": "string"
          }
        },
        "required": [
          "verdict",
          "risk_category",
          "explanation"
        ],
        "additionalProperties": false
      }
    },
    {
      "name": "moderation_decision_response",
      "description": "最终决定与已执行的动作",
      "example": {
        "final_decision": "flag",
        "action_taken": "已隐藏并等待人工复核",
        "note": "已转交审核员确认。"
      },
      "schema": {
        "type": "object",
        "properties": {
          "final_decision": {
            "type": "string",
            "enum": [
              "approve",
              "flag",
              "block"
            ]
          },
          "action_taken": {
            "type": "string"
          },
          "note": {
            "type": "string"
          }
        },
        "required": [
          "final_decision",
          "action_taken",
          "note"
        ],
        "additionalProperties": false
      }
    }
  ],
  "workflows": [
    {
      "name": "content_moderation_workflow",
      "description": "审核内容并启动决定流水线",
      "provider": "deepseek",
      "model": "deepseek-v4-flash",
      "backups": [
        {
          "provider": "anthropic",
          "model": "claude-haiku-4-5-20251001"
        }
      ],
      "request_type": "chat",
      "system_instructions": "按照典型社区政策审核提交的内容：安全且相关的内容放行，需要人工复核的标记，明显违规的直接拦截。简要说明每个结论的理由。",
      "structure": "moderation_triage_response",
      "customer_fields": [
        "content_text",
        "content_type",
        "submitter_id"
      ],
      "test_mode": false,
      "cache_window_seconds": 300,
      "backend_pipeline": {
        "enabled": true,
        "events": [
          {
            "name": "content_submitted"
          },
          {
            "name": "apply_decision",
            "target_workflow": "moderation_decision_workflow"
          },
          {
            "name": "decision_recorded"
          }
        ]
      }
    },
    {
      "name": "moderation_decision_workflow",
      "description": "记录最终的审核动作",
      "provider": "deepseek",
      "model": "deepseek-v4-flash",
      "backups": [
        {
          "provider": "anthropic",
          "model": "claude-haiku-4-5-20251001"
        }
      ],
      "request_type": "chat",
      "system_instructions": "确认最终审核决定，并说明已执行的动作，例如放行、隐藏待复核或拦截内容。给审核员的备注保持简洁。",
      "structure": "moderation_decision_response",
      "customer_fields": [
        "content_text",
        "content_type",
        "submitter_id"
      ],
      "test_mode": false
    }
  ]
}

在找其他方案？

更多模板即将上线。在此之前，你可以在 ModelRiver 控制台中从零搭建自己的工作流。

浏览全部模板阅读工作流指南