内容审核

  • 内容审核 > 使用文档 > 内容审核控制台操作指南 >增量审核

    增量审核

    最近更新时间:2021-09-08 17:37:15

    增量审核适用于 对上传到对象存储的资源进行实时审核 的场景。开启增量审核后,能帮助用户您在秒级时间内审核新增的资源,并支持及时地对违规资源进行自动封禁,保障业务安全。

    适用需求场景

    • 用户有新资源上传到七牛对象存储
    • 用户需要在资源上传后实时进行内容审核
    • 用户需要做审核的资源,无前缀要求、属于指定的前缀下或者过滤排除指定的前缀
    • 用户需要对违规资源做自动封禁 或者 有人力在机器审核完成后进行人工审核

    使用限制须知

    • 目前图片/音频审核支持华东、华南、华北三个区域,视频审核支持华东区域(如需开通其他区域,请提工单/联系技术支持),均不支持东南亚、北美两个区域
    • 视频增量审核截帧保存只支持华东存储空间,不支持其他区域的空间
    • 支持只对指定前缀下的特定文件类型的文件进行增量审核,不支持指定文件后缀或类型
    • 支持前缀过滤,被过滤的前缀下的文件将不会触发增量审核
    • 关于审核文件限制,请参考:审核文件适用规格
    • 支持的审核能力如下表:
    文件类型 支持审核类型
    图片 涉黄、暴恐、敏感人物、广告、不良场景(提交工单/联系技术支持开启)
    视频 涉黄、暴恐、敏感人物、广告
    音频 反垃圾

    开启增量审核

    打开并登陆内容审核控制台 https://portal.qiniu.com/censor,点击侧边栏的 存储空间审核 -> 增量审核,点击 新建任务 按钮

    create-1.png

    填写增量审核配置

    create-2.png

    各个配置项说明如下:

    配置项 必输 默认 说明
    存储空间 存储空间必输,前缀可选 需要开启增量审核的存储空间。开通后,新上传的资源,若符合审核条件,则会触发内容审核。可填写前缀,只对指定前缀下的资源进行审核。比如填写 2019/,则只会审核前缀 2019/ 下的资源。若需要审核该空间的所有资源,不填前缀即可。保存后将无法修改,请仔细检查确认
    前缀过滤 可选 需要过滤掉特定前缀的资源,该前缀下的资源将不会触发增量审核
    文件类型 必选 图片/视频/音频。关于具体支持格式请参考:审核文件适用规格保存后将无法修改,请仔细检查确认
    审核范围 必选 增量审核,不可修改
    审核类型 必选,至少开启一项 涉黄/暴恐/敏感人物/广告/反垃圾
    自动禁用 可选,但自动禁用与回调地址必须至少填选一项 开启自动禁用,后违规文件将会被自动禁用,无法公开访问。如需访问禁用资源请参考:文档私有资源下载
    视频截帧 必输 1 秒/帧 当文件类型为视频时,需要设置视频截帧频率,默认1 秒/帧。若视频长度为60秒,截帧频率为1 秒/帧,则会截成60张图片进行图片审核。截帧数字越小,审核准确率越高
    截帧存放地址 存储空间必选,前缀可选 文件类型为视频时,需要设置视频截帧保存的空间和前缀,只支持保存到华东区域的空间。建议设置为非业务空间,与业务空间隔离。设置前缀可将视频截帧保存到特定的前缀下,比如 2019/,则截帧图片会保存到前缀 2019/ 下
    回调地址 可选,但自动禁用与回调地址必须至少填选一项 完成增量审核后,会将结果发送到该地址。进行复核操作时会将复核结果发送到该地址。详情请参考:增量审核回调
    私有队列 必选 多媒体队列。若无队列,可点击右侧「添加队列」创建。参考:关于七牛的流媒体队列

    核对任务配置,确认无误后,点击保存开启增量审核任务

    如需开通华东区域以外的视频增量审核,请参照填写以上信息,提交工单/联系技术支持申请开通

    查看配置

    在增量任务列表,点击任务卡片上的 更多 -> 查看任务 来查看任务的详细配置

    view-1.png

    view-2.png

    修改配置

    在增量任务列表,点击任务卡片上的 更多 -> 修改任务 来修改任务的配置,配置内容同 开启增量审核

    edit-1.png

    可在任务卡片上的 更多 -> 历史记录 中查看修改的记录

    history-1.png

    history-2.png

    关闭任务

    关闭审核任务会导致资源漏检,增加运营风险,请谨慎操作

    在增量任务列表,点击任务卡片上的 更多 -> 关闭任务,确认后将关闭增量审核任务

    close-1.png

    结果复核

    点击 结果复核 进入结果复核界面。请参考:审核结果复核

    review-1.png

    将复核结果设为违规将自动封禁存储空间中的资源,设为正常则将自动解封资源。

    对于增量任务,在进行复核操作时会触发对应的回调。回调地址使用设置审核任务时填写的回调地址;如果审核任务没有设置回调地址,则没有回调。回调的数据格式为:

    {
    	"type":"KODO",
    	"set_id":"xxxxxxxx",
    	"bucket":"用户bucket",
    	"uri_get":"qiniu:///bucket/key",
    	"from":"BLOCK",
    	"to":"PASS"
    }
    

    数据统计

    点击 数据统计 进入数据统计界面,查看审核结果分布的情况。请参考:审核结果数据统计

    stats-1.png

    计费说明

    计费方式:

    文件类型 说明
    图片 按审核的图片数和审核类型数计费,如:同时开启审核类型 涉黄 和 敏感人物,则费用为 图片数 * (涉黄单价 + 敏感人物单价)
    视频 按审核的视频截帧数和审核类型数计费
    音频 按音频时长和审核类型数计费

    价格:机器智能审核阶梯计费方式机器智能审核资源包

    以上内容是否对您有帮助?
  • Qvm free helper
    Close