智能多媒体服务

  • 智能多媒体 > 使用文档 > 开发指南 >多媒体处理能力 >视频审核

    视频审核

    最近更新时间:2021-04-15 17:28:06

    提供视频审核服务,支持通过控制台工作流中设置视频审核。本文为您介绍视频审核的使用说明、参数配置和使用场景。

    应用场景

    无论您的应用是APP还是网站,都可以使用内容安全审核服务,达到保障内容安全,降低业务运营风险的目的。具体的应用场景包括社交平台、媒体平台、电商网站、社区论坛等。

    • 精准高效的UGC内容审核:海量UGC上传的视频,通过视频智能审核技术,快速检测违规内容,识别媒体质量问题,有效减少人工审核的工作量。

    • 高效精准的点播内容审核:高效识别点播视频中的涉暴、涉政类镜头,紧跟时政最新动态,严控违规内容。

    核心功能

    鉴黄

    七牛云图像鉴黄利用超大规模数据所提供的知识来对深度神经网络进行引导,训练出多个极具泛化能力的网络模型,同时基于蒸馏学习的思想对模型复杂度和参数规模进行了大幅压缩,快速准确的识别出色情、低俗的图片和视频,解决直播、电商、社交等领域的违规内容问题。

    鉴暴恐

    七牛云鉴暴恐通过海量暴恐图片和视频数据源,依托分布式深度学习平台,能准确地对图片视频进行暴恐分类,具体支持血腥类,爆炸类,恐怖主义,战争军队,枪支刀具,各种旗帜等不同类型。

    政治人物识别

    七牛云政治人物识别基于海量人脸库和专业审核人员的审核标准,利用分布式深度学习平台,识别正常、漫画、负面涉政人物的违规信息,降低违规风险,覆盖涉政人物1700余个,具体包括国内外元首,副国级以上领导人,落马官员,反华势力和劣迹艺人等。

    使用方式

    1.创建视频审核工作流

    首先创建视频审核工作流,以 下图的工作流 为例(对疑似or违规的源视频进行封禁,并对正常源视频进行普通转码处理),如下图所示。

    img

    1)添加 视频审核 节点

    • 点击【视频审核】节点,需先新建视频审核预设

    img

    • 点击【新建预设】,跳转到【内容审核 protal ->应用管理页】进行新建。img

    2)添加 执行条件 节点

    • 作为下一节点处理的前置判断条件。执行条件表示父节点满足什么条件,才能触发下一节处理。用户可根据需要配置执行条件,如下图所示。

      父节点为【视频审核】,执行条件介绍如下:

      执行条件 条件描述
      视频审核结果为【正常】 父节点审核结果为正常时,执行下一节点处理
      视频审核结果为【违规】 父节点审核结果为违规时,执行下一节点处理
      视频审核结果为【疑似】 父节点审核结果为疑似时,执行下一节点处理
      视频审核结果不是【正常】 父节点审核结果为【违规】或【疑似】,执行下一节点处理
      视频审核结果不是【违规】 父节点审核结果为【正常】或【疑似】,执行下一节点处理

      img

    3)添加 封禁 节点

    • 该节点仅适用于视频审核的场景
      当对源视频进行视频审核,结果为【违规】or【违规】时,可以封禁源视频,存储空间的源文件被封禁后,将无法公开访问,可以帮助用户规避风险;对审核结果为【正常】的资源,进行其他处理(比如转码),可以减少不必要的处理开销。
      img

    2.创建视频审核任务

    创建任务有两种方式:

    • 创建单个任务,对单个存量数据处理
    • 创建任务触发器,对增量上传的资源做处理

    此处介绍如何【创建任务触发器】,可参考文档 任务触发器

    3.接收回调

    完成视频审核任务处理后,支持以回调方式将消息推送到指定URL。具体请参见任务通知

    4.查看任务详情

    • 您可通过控制台查询和 API 查询,具体详情参见任务查询

    img

    5.查看视频审核结果文件

    • 您可在工作流中单独对视频审核配置【输出】节点,保存视频审核的结果 json 文件,点击 查看结果示例

    img

    视频审核任务结果复核

    1.从任务详情页查看

    1)进入任务详情页,鼠标移至【视频审核】节点,弹出如下弹窗:

    img

    2)点击 查看复核详情,跳转到当前任务的【结果复核】页。您可以查看审核结果,并根据审核结果可以对该文件进行 正常、违规操作。

    img

    根据相关部门的标准,七牛云在审核结果中对每个文件给出了管控建议:

    • 违规: 包含所有审核结果为违规的文件,等待客户进行处理,一般建议对违规文件进行封禁;

    • 疑似: 包含所有审核结果为疑似违规的文件,需要客户根据自身业务类型确认,确认后进行合适的处理。如果确定是违规则建议封禁,如果确定不是违规,则建议忽略;

    • 正常: 是指审核结果为正常的文件,一般不需要用户做任何操作。正常文件数量比较多,在portal页面上最多只展示5000个文件。

    • 已封禁: 是指对审核结果为违规或者疑似的文件,依据用户在工作流设置的封禁节点,已经进行了自动封禁操作的文件。这些自动封禁的文件,终端用户是不能访问的。但是,为了安全,还是建议用户尽快确认并删除。

    2.从视频审核预设-> 查看复核结果

    1)登录【智能多媒体控制台】,进入【导航栏->预设】页面,点击【视频审核预设】。

    img

    2)跳转到【内容审核->应用管理】页面,此处对应的是【视频审核预设】,点击 结果复核

    img

    3)跳转到结果复核页,可以看到所有违规、疑似、正常的文件审核结果。

    img

    视频审核参数说明

    下面对各类型参数的关键参数含义及取值范围进行说明。

    img

    参数 必填 说明
    文件类型 当前仅支持视频。关于具体支持格式,参考:审核文件适用规格
    审核类型 涉黄/暴恐/敏感人物
    视频截帧 设置视频截帧率,默认1秒。假设视频长度为60秒,截帧率为1秒,则会截成60左右张图进行图片审核。截帧数字越小,审核准确率越高。
    截帧存放地址 选择视频截帧保存的空间,只支持放于华东区域的空间。建议与存储空间分开,放置非业务空间下
    截帧保存前缀 设置视频截帧保存的前缀,比如 2019/,则截帧图片会保存与前缀 2019/ 下,截帧文件名形如:2019/cut/1380432151/0XffHKKLeCaR12u–yR176C5C0o=/126520
    以上内容是否对您有帮助?
  • Qvm free helper
    Close