内容审核

  • 添加内容审核设置/任务

    最近更新时间:2018-08-13 12:55:11

    七牛云存储内容审核提供七牛云存储空间内容审核功能,针对您七牛云存储空间中的图片/视频进行是否涉黄、涉暴恐和涉政检测服务。目前支持的区域包括华东、华南和华北,其中增量视频仅支持华东区域。

    您可以对指定的七牛云存储中的指定图片(或视频)启用增量内容检测,并根据检测结果执行相应处理;也可以对七牛云存储空间中的指定图片(或视频)进行存量内容一次性检测,等待执行完成后,直接查看审核结果,并执行相应处理。

    七牛云内容审核提供“机器智能审核”(简称“机审”)和“机器智能审核+人工审核”(简称“人审”),目前控制台支持用户直接设置图片、视频的机器智能审核功能。“机器智能审核+人工审核”的功能正在紧张开发中。

    注意:存量审核,请联系技术支持开通或者提交工单

    内容审核入口

    七牛云控制台有2个入口,可以进入到内容审核页面。

    1.七牛云资源主页


    点击“内容审核”模块的“立即添加”按钮,进入到内容审核页面;

    2.七牛云存储空间->空间设置页面

    图片审核

    启用图片增量设置

    参照如下步骤,对指定七牛云存储空间启用图片增量审核设置:
    1.点击如上两个入口的“添加设置/任务”按钮,进入到添加任务/配置页面,

    2.在“存储空间名称”的下拉列表中,选择需要启用设置的存储空间,

    • 过滤规则:

    您可以根据需要选择“对整个 Bucket 生效”,则会审核这个所选存储空间中存在的所有图片;也可以选择“对前缀生效”,则表示仅审核 images/content_ 前缀的图片文件。

    3.在“审核范围”中,选择“增量”,如下设置表示对于增量图片,进行鉴黄、鉴暴恐和政治人物识别的智能机器审核,

    • 审核类型:

    请选择审核类型,必须至少选择一个。三个检测服务是分开计费的,例如,一张图片选择鉴黄、鉴暴恐和政治人物识别,则会分别计入鉴黄、鉴暴恐和政治人物识别的计费。

    4.在高级设置中,用户可以对增量部分开启“自动禁用”,并设定自动禁用的阈值(默认阈值为色情0.6,暴恐0.6,政治人物识别0.6)。如果用户开启自动禁用,并设置了自动禁用阈值,那么审核结果属于这个类别,并且置信度超过这个阈值的文件会被自动禁用。具体可参考七牛云存储的禁用功能,禁用后文件将不能公开访问,如果依然要访问被禁用文件,请见文档私有资源下载

    • 回调地址(选填)
      接收增量图片审核结果的地址。一张图片回调一次。
      图片文件回调格式:
      {"id":"z0.5b6bb27938b9f324a587e7c8","pipeline":"0.default","code":0,"desc":"The fop was completed successfully","reqid":"InkAAF_K_UoOGUkV","inputBucket":"netback","inputKey":"pulp-2018-04-04T04-09-27-XZ498IU50WTbUB_u91bHyw==.jpg","items":[{"cmd":"image-censor/pulp|bucket-inspect/v1/tpulp/0.6|notify-filter/true/http%3A%2F%2Fargus-ccp.xs.cg.dora-internal.qiniu.io%3A5001%2Fv1%2Fmsg%2Fpfop%2F1380827137%2F23c26dae-6856-4ca7-85bd-33a6fc22a5a8%2Fimage","code":0,"desc":"The fop was completed successfully","result":{"disable":false,"result":{"code":0,"message":"","result":{"details":[{"label":2,"review":false,"score":0.94214475,"type":"pulp"}],"label":0,"review":false,"score":0.94214475}}},"returnOld":0}]}
      
      视频文件回调格式:
      {"id":"z0.5b6bb29b38b9f324a587ff4b","pipeline":"0.default","code":0,"desc":"The fop was completed successfully","reqid":"8wcAAKNw2JcWGUkV","inputBucket":"netback","inputKey":"1529569931719.mp4","items":[{"cmd":"video-censor/v1/pulp/save/eyJidWNrZXQiOiJndW9qdW4ifQ==/vframe/eyJtb2RlIjowLCJpbnRlcnZhbCI6NX0=|bucket-inspect/v2/true|notify-filter/true/http%3A%2F%2Fargus-ccp.xs.cg.dora-internal.qiniu.io%3A5001%2Fv1%2Fmsg%2Fpfop%2F1380827137%2F23c26dae-6856-4ca7-85bd-33a6fc22a5a8%2Fvideo","code":0,"desc":"The fop was completed successfully","result":{"disable":true,"result":{"scenes":{"pulp":{"segments":[{"cuts":[{"offset":0,"result":{"label":"normal","score":0.52219146},"suggestion":"pass","uri":"qiniu://1380827137@/guojun/qiniu_censor_tmp/CAAAACbdZJcWGUkV/pulp/0"}],"offset_begin":0,"offset_end":0,"suggestion":"pass"},{"cuts":[{"offset":5000,"result":{"label":"pulp","score":0.6684893},"suggestion":"block","uri":"qiniu://1380827137@/guojun/qiniu_censor_tmp/CAAAACbdZJcWGUkV/pulp/5000"}],"offset_begin":5000,"offset_end":5000,"suggestion":"block"},{"cuts":[{"offset":10000,"result":{"label":"normal","score":0.9966443},"suggestion":"pass","uri":"qiniu://1380827137@/guojun/qiniu_censor_tmp/CAAAACbdZJcWGUkV/pulp/10000"}],"offset_begin":10000,"offset_end":10000,"suggestion":"pass"}],"suggestion":"block"}},"suggestion":"block"}},"returnOld":0}]}
      
    • 处理队列
      默认使用公共队列进行所有审核处理,若需要新建私有队列,请见文档 如何创建音视频处理私有队列

    5.单击开始审核保存内容审核设置。保存成功后,增量审核设置立刻生效。

    设置成功后,系统会按照设置,自动对已选择的七牛云存储空间进行图片审核。

    创建图片存量任务

    注意:存量审核,请联系技术支持开通或者提交工单
    对七牛云存储空间中的指定图片(或视频)进行存量内容一次性检测,等待执行完成后,直接查看审核结果,并执行相应处理。
    参照如下步骤,对指定七牛云存储空间创建图片存量审核任务:
    1.点击如上两个入口的“添加设置/任务”按钮,进入到添加任务/配置页面,
    2.在“存储空间名称”的下拉列表中,选择需要创建存量审核任务的存储空间,
    3.在“审核范围”中,选择“存量”,如下设置表示对于增量图片,进行鉴黄、鉴暴恐和政治人物识别的智能机器审核,“机审+人审”的功能正在紧张开发中。

    4.在高级设置中,用户可以添加一些存量的设置,

    • 审核结果另存为
      存量审核的结果将会存回到用户的存储空间中,并使用用户设置的前缀作为结果文件的前缀。文件是压缩文件,下载完毕后请解压再打开。

      存量图片审核结果的格式:
      qiniu://z0/censor3/filter2/test1/xiginping.jpg    {"code":0,"message":"","result":{"label":1,"score":0.8452103,"review":false,"details":[{"type":"pulp","label":2,"score":0.4887098,"review":true},{"type":"politician","label":1,"score":0.8452103,"review":false,"more":[{"boundingBox":{"pts":[[133,123],[357,123],[357,410],[133,410]],"score":0.9999896},"value":{"name":"习近平","score":0.8452103,"review":false},"sample":{"url":"http://p4wgdf8lr.bkt.clouddn.com/politician/sample/img-329d83050dee127116c962f3d3b635eb.jpg","pts":[[215,74],[326,74],[326,209],[215,209]]}}]}]}}
      qiniu://z0/censor3/filter2/test1/CoffeeRoom.jpg    {"code":0,"message":"","result":{"label":0,"score":0.99996346,"review":false,"details":[{"type":"pulp","label":2,"score":0.99996346,"review":false},{"type":"politician","label":0,"score":0,"review":false,"more":[]}]}}
      ...
      

    视频审核

    启用视频增量设置

    增量视频内容审核暂只支持华东的存储空间
    参照如下步骤,对指定七牛云存储空间启用视频增量审核设置:
    1.点击如上两个入口的“添加设置/任务”按钮,进入到添加任务/配置页面,

    2.审核范围选择“增量”,文件类型选择“视频”,这里大部分字段的设置与图片设置一样,仅如下两个设置是增量视频特殊需要的。
    3.“视频截帧设置”:因为视频的审核是对视频进行截帧后,对截帧进行图片审核,所以需要进行视频截帧设置,可以设置多少秒截取一桢,这里最小值为1。
    4.“视频截帧地址”:增量视频的截帧需要存储到用户指定的存储空间,以便用户可以在结果自助复核页面,对视频审核的结果进行复核。建议视频截帧图片不要存放在业务存储空间中,因为如果存放在业务存储空间,而该存储空间开启了增量图片审核,可能会把这些截帧再次进行图片审核操作,浪费您的费用,如果您的这个存储空间的增量图片审核还开启了自动禁用,更可能会导致截帧的图片在结果自助复核页面无法查看。
    5.单击开始审核保存内容审核设置。保存成功后,增量视频审核设置立刻生效。

    设置成功后,系统会按照设置,自动对已选择的七牛云存储空间进行增量视频审核。

    添加视频存量任务

    注意:存量审核,请联系技术支持开通或者提交工单
    1.点击如上两个入口的“添加设置/任务”按钮,进入到添加任务/配置页面,
    2.审核范围选择“存量”,文件类型选择“视频”,这里大部分字段的设置与图片设置一样。
    3.“视频截帧设置”:因为视频的审核是对视频进行截帧后,对截帧进行图片审核,所以需要进行视频截帧设置,可以设置多少秒截取一桢,这里最小值为1。
    4.“存量审核结果地址”:存量审核的结果将会存回到用户的存储空间中,并使用用户设置的前缀作为结果文件的前缀。文件是压缩文件,下载完毕后请解压再打开。

    5.单击开始审核保存内容审核设置。保存成功后,增量视频审核设置立刻生效。

    设置成功后,系统会按照设置,自动对已选择的七牛云存储空间进行存量视频审核。
    存量视频审核结果的格式:

    qiniu://z0/bk-video-dataset2/bk-video-clip-unlabeled/0/Pianist.mp4    {"code":200,"mimetype":"video","result":{"suggestion":"review","scenes":{"politician":{"suggestion":"pass"},"pulp":{"suggestion":"pass","segments":[{"offset_begin":0,"offset_end":0,"suggestion":"pass","cuts":[{"offset":0,"uri":"qiniu://1381102897@/argus-ccp/CCP_TMP/cWluaXU6Ly96MC9iay12aWRlby1kYXRhc2V0Mi9iay12aWRlby1jbGlwLXVubGFiZWxlZC8wL-mSoueQtOWuti5UaGUuUGlhbmlzdC4yMDAyLkJEUmlwLjJBdWRpby5NaW5pU0QtVExGXzQ3NTguN180NzU5LjUubXA0/pulp/0","suggestion":"pass","result":{"label":"normal","score":0.99753606}}]}]},"terror":{"suggestion":"review","segments":[{"offset_begin":0,"offset_end":0,"suggestion":"review","cuts":[{"offset":0,"uri":"qiniu://1381102897@/argus-ccp/CCP_TMP/cWluaXU6Ly96MC9iay12aWRlby1kYXRhc2V0Mi9iay12aWRlby1jbGlwLXVubGFiZWxlZC8wL-mSoueQtOWuti5UaGUuUGlhbmlzdC4yMDAyLkJEUmlwLjJBdWRpby5NaW5pU0QtVExGXzQ3NTguN180NzU5LjUubXA0/terror/0","suggestion":"review","result":{"label":"normal","score":0.5651511}}]}]}}}}
    ...
    

    审核文件限制

    内容审核模块对于能处理的文件有一些限制。

    图片文件的限制:

    1. 图片大小大于10M不能处理
    2. 图片尺寸大于4999x4999,小于32x32不能处理
    3. 图片纬度不等于3不能处理

    视频文件的限制:

    1. 视频长度超过40分钟不能处理
    以上内容是否对您有帮助?
  • Close