对象存储

  • 空间内容安全审核设置

    最近更新时间:2018-05-21 13:34:54

    本文主要介绍如何从七牛云控制台设置存储空间的内容安全审核。目前七牛云内容安全审核支持图片文件,下文都以图片为例,更多文件类型的支持正在紧张开发测试中。

    内容安全审核从对文件处理方式上大致可以分为存量文件和增量文件。所谓存量内容审核指的是对存储空间的现有文件的扫描,一次扫描被称为一个任务;增量内容审核指的是预设的一个规则,规则成功设置以后,所有的新上传文件都要根据设置的规则来判定是否违规。

    存量内容审核和增量内容审核都支持机器审核和人工审核(即将上线)。另外,增量内容审核可以根据用户规则,将违规图片自动转换为私有文件,禁止公开访问,从而达到保证存储空间内容安全,减少运营风险的目的。

    1. 设置内容安全审核

    1. 登录七牛云管理控制台
    2. 选择左侧对象存储,进入对象存储概览页面。
    3. 选择您需要使用内容安全审核服务的空间,单击空间设置,前往空间内容审核设置选项。
    4. 点击“+添加审核设置”的按钮,
    5. 进入到“图片内容审核设置”页面
      • 存储空间名称:选择您想要检测的存储空间
      • 设置过滤规则:您可以根据需要选择“对整个 Bucket 生效”,则会审核这个所选存储空间中存在的所有图片;也可以选择“对前缀生效”,则表示仅审核 images/content_ 前缀的图片文件
      • 审核范围:提供对存储空间内的增量图片和存量图片进行审核,您可以直接在此设置增量图片审核的设置,如您需要进行存量图片审核,请联系技术支持开通或者提交工单
      • 审核方式:请选择审核方式,七牛云提供机器审核和人工审核(即将推出)两种方式的服务。机器审核是指使用内容审核的API,返回API的检测结果;人工审核是指七牛云的人工审核团队来帮组您进行内容安全审核,做到万无一失。
      • 审核类型:请选择审核类型,必须至少选择一个。三个检测服务是分开计费的,例如,一张图片选择鉴黄、鉴暴恐和政治人物识别,则会分别计入鉴黄、鉴暴恐和政治人物识别的计费。
    6. 单击确定审核保存内容审核设置。

    注意:设置页面所有设置操作均在点击“确定审核”之后即刻生效。

    2. 查看空间内容审核状态

    当审核设置成功后,就可以在改存储空间->空间设置->空间内容审核设置部分看到增量审核的状态,以及存量审核处于各状态的任务数量。

    • 增量图片审核
      审核状态:现在显示为开启中。只要该存储空间中有一个前缀的增量图片审核处于“开启中”,那么在这里增量图片审核的审核状态就为“开启中”。其他的2个状态分别为:未设置、已关闭。如果这个存储空间没有添加过任何增量图片审核设置,那么状态就是“未设置”。如果该存储空间内,所有添加过增量图片审核设置的前缀下,增量图片审核状态都是“已关闭”,那么在这里增量图片审核的状态就是“已关闭”的状态。
    • 存量图片审核
      审核中:是指正在“审核中”的存量审核任务的数量。
      已完成:是指已经结束审核的存量审核任务的数量。

    • 查看设置和结果
      请参考查看空间审核设置

    • 添加增量设置
      请参考本文档1.设置内容安全审核的第4点。

    • 添加存量设置
      请参考本文档1.设置内容安全审核的第4点。

    3. 高级设置

    当用户在设置增量和存量审核时,可以通过高级设置分别对存量和增量达到更细力度的控制。

    增量图片设置

    • 自动禁用
      请设定违规图片自动禁用阈值,超过这个阈值的文件会被自动禁用,禁用后文件将不能公开访问,如果依然要访问被禁用文件,请见文档私有资源下载
      审核类型的每个参数值,请参考“图片审核阈值参数”部分。
    • 回调地址(选填)
      接收存量图片审核结果的地址。一张图片回调一次。
    • 处理队列
      默认使用公共队列进行所有审核处理,若需要新建私有队列,请见文档 如何创建音视频处理私有队列

    存量图片设置

    • 审核结果另存为
      存量审核的结果将会存回到用户的存储空间中,并使用用户设置的前缀作为结果文件的前缀。文件是压缩文件,下载完毕后请解压再打开。

      存量审核结果的格式:

      qiniu://z0/censor3/filter2/test1/xiginping.jpg    {"code":0,"message":"","result":{"label":1,"score":0.8452103,"review":false,"details":[{"type":"pulp","label":2,"score":0.4887098,"review":true},{"type":"politician","label":1,"score":0.8452103,"review":false,"more":[{"boundingBox":{"pts":[[133,123],[357,123],[357,410],[133,410]],"score":0.9999896},"value":{"name":"习近平","score":0.8452103,"review":false},"sample":{"url":"http://p4wgdf8lr.bkt.clouddn.com/politician/sample/img-329d83050dee127116c962f3d3b635eb.jpg","pts":[[215,74],[326,74],[326,209],[215,209]]}}]}]}}
      qiniu://z0/censor3/filter2/test1/CoffeeRoom.jpg    {"code":0,"message":"","result":{"label":0,"score":0.99996346,"review":false,"details":[{"type":"pulp","label":2,"score":0.99996346,"review":false},{"type":"politician","label":0,"score":0,"review":false,"more":[]}]}}
      ...
      
    • 回调地址(选填)
      接收存量图片审核结果的地址。存量任务一个任务完成以后才回调一次。

    4. 图片审核阈值参数

    4.1 图片鉴黄参数

    图片鉴黄会把每张图片鉴定为以下三种分类{0色情;1性感;2正常}中的一种。同时,对于任何一种分类,系统都会给出图片属于这个分类的概率值,这个值我们也称为评分,评分越高代表属于这个分类的可能性越高。

    • 色情评分
      如果图片鉴定结果为{0色情},表明该图片是系统鉴定的色情图片。用户可以根据业务需要,设定色情评分值,属于{0色情}分类,并且评分大于色情评分设定的值时,图片才会被封禁。默认设定的值为0.60,评分值大于0.60时,属于色情图片的概率会更高。

    • 性感评分
      如果图片鉴定结果为{1性感},表明该图片是系统鉴定的性感图片。默认情况下,这类图片都不会被封禁掉。用户也可以根据业务需要,设定性感评分值,属于{1性感}分类,并且评分大于性感评分设定的值时,图片才会被封禁。对于性感评分,没有建议值,因为性感图片的范围比较广。

    4.2 图片鉴暴恐参数

    图片鉴暴恐会把每张图片鉴定为以下二种分类{0正常;1暴恐}中的一种。同时,对于任何一种分类,系统都会给出图片属于这个分类的概率值,这个值我们也称为评分,评分越高代表属于这个分类的可能性越高。

    • 暴恐评分
      如果图片鉴定结果为{1暴恐},表明该图片是系统鉴定的暴恐图片。用户可以根据业务需要,设定暴恐评分值,属于{1暴恐}分类,并且评分大于暴恐评分设定的值时,图片才会被封禁。默认设定的值为0.60,评分值大于0.60时,属于暴恐图片的概率会更高。

    4.3 图片政治人物识别参数

    图片政治人物识别会把每张图片鉴定为以下二种分类{0正常;1有政治人物}中的一种。同时,对于任何一种分类,系统都会给出图片属于这个分类的概率值,这个值我们也称为评分,评分越高代表属于这个分类的可能性越高。

    • 政治人物识别评分
      如果图片鉴定结果为{1有政治人物},表明该图片是系统检测的有政治人物的图片。用户可以根据业务需要,设定政治人物评分值,属于{1有政治人物}分类,并且评分大于暴恐评分设定的值时,图片才会被封禁。默认设定的值为0.60,评分值大于0.60时,属于有政治人物这类的概率会更高。

    5. 禁用文件访问

    • 当图片被自动禁用后,文件将停止公开访问,如果要依然要访问被禁用文件,请见文档 私有资源下载

    • 图片被禁用后,客户可根据业务逻辑调用删除文件接口对文件进行删除,或调用修改文件状态接口对文件恢复访问。

    6. 限制和说明

    • 增量图片审核
      对于增量图片审核,如果用户新添加的前缀,与之前已经添加并处于“审核中”的前缀冲突(前缀包含或者被包含),就无法成功添加这个前缀的增量设置。
    • 存量图片审核
      存量图片审核的每个设置都是一个任务,任务之前没有关联关系。我们不会记录一张图片是否已经进行过某种审核的数据。
      所以,只要成功添加了一个存量任务,这个任务中的图片就会被执行预设的审核类型。
    以上内容是否对您有帮助?
  • 提交工单