内容审核

  • 查看内容审核设置/任务

    最近更新时间:2018-07-30 10:39:42

    查看存储空间审核设置

    增量审核设置和存量任务创建成功后,在“七牛内容审核”平台的“七牛云资源”的tab即可看到设置或者任务的列表信息。

    对一个存储空间,根据客户的需求设置的前缀(对整个存储空间生效,则前缀为空),审核范围和审核方式的不同会显示为不同的记录。

    图片审核设置/任务

    增量图片设置

    增量图片设置成功后,就会处于“开启中”的状态,那么在设置时间之后上传的图片,都会按照设置进行内容审核。

    • 查看增量图片历史设置

      1. 点击“查看历史”,
      2. 进入到“增量审核历史设置”页面,该页面显示出了这个存储空间和前缀下增量审核设置所有的操作历史记录。并且只有最近的设置才是生效的设置。
    • 修改增量图片设置
      对于存储空间内的某个前缀的增量图片设置,如果用户需要修改,可以操作下列步骤进行修改。

      1. 点击“修改设置”
      2. 进入到“图片内容审核设置”页面

        修改增量图片设置时,存储空间名称、前缀都无法修改,只能修改审核类型和一些高级设置。

      3. 关闭增量图片设置

      4. 对于增量审核正在生效的设置,如果用户不需要对增量图片进行审核了,则可以关闭该增量审核设置。

        如果关闭增量审核的设置,则增量审核的状态就会变成“已关闭”。这个存储空间的这个前缀下的增量图片就不会被审核。

    存量图片任务

    存量审核是一个一次性的审核任务,用户点击“开始审核”按钮后,就开始审核这个任务下的历史图片,那么这个任务的状态就变成了“审核中”,直到审核完成后,审核任务就变成了“已完成”。

    • 查看存量图片历史设置
      1. 对于存量图片的设置,点击“查看历史”,
      2. 进入到“存量审核历史设置”页面,该页面显示出了这个存储空间和前缀下存量审核设置的所有任务记录,并显示每个任务的状态。
    • 查看存量图片违规统计数量
      对于存量任务,当审核任务结束,审核任务状态变成“已完成”时,在审核任务的列表卡中,可以看到这个审核任务的各审核类型的违规图片数量。违规统计数量还在开发中。
      违规定义:鉴黄审核结果中,类别0色情属于违规;在鉴暴恐审核结果中,类别1暴恐属于违规;在政治人物识别审核结果中,类别1有政治人物属于违规。

    • 终止存量图片审核任务
      目前存量审核无法提前终止,请谨慎添加存量审核任务。

    用户可以对一个存储空间的某个前缀下的图片,进行多次机审或者机审+人审操作,但是系统将只保留最近一次的审核结果。

    视频审核设置/任务

    增量视频设置

    增量视频设置成功后,就会处于“开启中”的状态,那么在设置时间之后上传的视频,都会按照设置进行内容审核。

    • 查看增量视频历史设置

      1. 点击“查看历史”,
      2. 进入到“增量审核历史设置”页面,该页面显示出了这个存储空间和前缀下增量审核设置所有的操作历史记录。并且只有最近的设置才是生效的设置。
    • 修改增量视频设置
      对于存储空间内的某个前缀的增量视频设置,如果用户需要修改,可以操作下列步骤进行修改。

      1. 点击“修改设置”
      2. 进入到“内容审核设置”页面

        修改增量审核设置时,存储空间名称、前缀都无法修改,只能修改审核类型和一些高级设置。

      3. 关闭增量视频设置

      4. 对于增量审核正在生效的设置,如果用户不需要对增量视频进行审核了,则可以关闭该增量审核设置。

        如果关闭增量审核的设置,则增量审核的状态就会变成“已关闭”。这个存储空间的这个前缀下的增量视频就不会被审核。

    存量视频任务

    存量审核是一个一次性的审核任务,用户点击“开始审核”按钮后,就开始审核这个任务下的历史视频,那么这个任务的状态就变成了“审核中”,直到审核完成后,审核任务就变成了“已完成”。

    • 查看存量视频历史设置
      1. 对于存量视频的设置,点击“查看历史”,
      2. 进入到“存量审核历史设置”页面,该页面显示出了这个存储空间和前缀下存量审核设置的所有任务记录,并显示每个任务的状态。
    • 查看存量视频违规统计数量
      对于存量任务,当审核任务结束,审核任务状态变成“已完成”时,在审核任务的列表卡中,可以看到这个审核任务的各审核类型的违规视频数量。违规统计数量还在开发中。
      违规定义:鉴黄审核结果中,类别0色情属于违规;在鉴暴恐审核结果中,类别1暴恐属于违规;在政治人物识别审核结果中,类别1有政治人物属于违规。

    • 终止存量视频审核任务
      目前存量审核无法提前终止,请谨慎添加存量审核任务。

    用户可以对一个存储空间的某个前缀下的视频,进行多次机审或者机审+人审操作,但是系统将只保留最近一次的审核结果。

    图片审核阈值参数

    图片鉴黄参数

    图片鉴黄会把每张图片鉴定为以下三种分类{0色情;1性感;2正常}中的一种。同时,对于任何一种分类,系统都会给出图片属于这个分类的概率值,这个值我们也称为评分,评分越高代表属于这个分类的可能性越高。

    • 色情评分
      如果图片鉴定结果为{0色情},表明该图片是系统鉴定的色情图片。用户可以根据业务需要,设定色情评分值,属于{0色情}分类,并且评分大于色情评分设定的值时,图片才会被封禁。默认设定的值为0.60,评分值大于0.60时,属于色情图片的概率会更高。

    • 性感评分
      如果图片鉴定结果为{1性感},表明该图片是系统鉴定的性感图片。默认情况下,这类图片都不会被封禁掉。用户也可以根据业务需要,设定性感评分值,属于{1性感}分类,并且评分大于性感评分设定的值时,图片才会被封禁。对于性感评分,没有建议值,因为性感图片的范围比较广。

    图片鉴暴恐参数

    图片鉴暴恐会把每张图片鉴定为以下二种分类{0正常;1暴恐}中的一种。同时,对于任何一种分类,系统都会给出图片属于这个分类的概率值,这个值我们也称为评分,评分越高代表属于这个分类的可能性越高。

    • 暴恐评分
      如果图片鉴定结果为{1暴恐},表明该图片是系统鉴定的暴恐图片。用户可以根据业务需要,设定暴恐评分值,属于{1暴恐}分类,并且评分大于暴恐评分设定的值时,图片才会被封禁。默认设定的值为0.60,评分值大于0.60时,属于暴恐图片的概率会更高。

    图片政治人物识别参数

    图片政治人物识别会把每张图片鉴定为以下二种分类{0正常;1有政治人物}中的一种。同时,对于任何一种分类,系统都会给出图片属于这个分类的概率值,这个值我们也称为评分,评分越高代表属于这个分类的可能性越高。

    • 政治人物识别评分
      如果图片鉴定结果为{1有政治人物},表明该图片是系统检测的有政治人物的图片。用户可以根据业务需要,设定政治人物评分值,属于{1有政治人物}分类,并且评分大于暴恐评分设定的值时,图片才会被封禁。默认设定的值为0.60,评分值大于0.60时,属于有政治人物这类的概率会更高。
    以上内容是否对您有帮助?
  • Close