审核结果复核
七牛云内容审核平台提供可视化的界面展示审核结果,您可以查看审核结果,并根据审核结果进行相应的操作。
审核结果复核
在七牛内容审核->结果复核页面,可以看到所有违规、疑似的文件审核结果以及部分正常文件的审核结果。该页面上模型显示的是图片的结果,视频结果请点击“视频”进行切换。
根据相关部门的标准,七牛云在审核结果中对每个文件给出了管控建议:
违规: 包含所有审核结果为违规的文件,等待客户进行处理,一般建议对违规文件进行封禁;
疑似: 包含所有审核结果为疑似违规的文件,需要客户根据自身业务类型确认,确认后进行合适的处理。如果确定是违规则建议封禁,如果确定不是违规,则建议忽略;
正常: 是指审核结果为正常的文件,一般不需要用户做任何操作。正常文件数量比较多,在portal页面上最多只展示5000个文件。
已封禁: 是指对审核结果为违规的文件,依据用户在增量设置中的封禁逻辑,已经进行了自动封禁操作的文件。这些自动封禁的文件,终端用户是不能访问的。但是,为了安全,还是建议用户尽快确认并删除。目前,只有增量审核支持违规文件自动封禁。
处理违规/疑似文件
在复核页面,您可以根据审核结果和文件内容对文件进行相应的操作。
单个文件操作:
在文件左上方的圆圈内打勾,选中该文件,然后可以对该文件进行“正常”、“封禁”操作。
一页内所有文件操作:
在页面左下方选中“全选”,就会选中当前页内的所有文件,然后可以批量对文件进行“正常”、“封禁”操作。
处理操作回调:
在复核页面进行操作,会有该操作的回调。回调使用设置审核任务时填写的回调地址,如果审核任务没有设置回调地址,则没有回调。回调的数据格式为
{
"type":"KODO",
"set_id":"xxxxxxxx",
"bucket":"用户bucket",
"uri_get":"qiniu:///bucket/key",
"from":"BLOCK",
"to":"PASS"
}
导出违规/疑似文件列表
您可以在页面上导出违规/疑似文件列表,然后进行批量操作等。请参考七牛云存储 资源删除接口 和 资源封禁接口。
导出的文件可以根据页面上的条件进行过滤,支持20M以内大小的文件导出。如果您的违规文件数量多,导致无法正常导出,请提交工单联系我们。
导出文件格式
|BucketName|Prefix|FileName|URL |pulpResult|terrorResult|politicianResult|rechecked|isDisabled|
|ABCBucket | |1234File|qiniu:///ABCB...|PASS |REVIEW |PASS |N |N |
字段 | 说明 |
---|---|
BucketName | 审核规则的存储空间名称 |
Prefix | 审核规则的前缀 |
FileName | 审核文件名称 |
URL | 七牛协议的审核文件URL |
pulpResult | 鉴黄的审核结果 |
terrorResult | 鉴暴恐的审核结果 |
politicianResult | 敏感人物识别的审核结果 |
rechecked | 文件是否已完成复核操作 |
isDisabled | 文件是否已被自动封禁 |
查看文件的详细审核结果
单击 文件缩略图 可以查看文件的审核详细结果,包括:
- 文件的管控建议;
- 文件的外链;
- 文件的审核详细标签,例如鉴黄是属于正常分类,并且显示属于这个分类的置信度;
- 也可以对文件进行操作。
图片的详细结果:
视频的详细结果: