You need to enable JavaScript to run this app.
导航
智能审核
最近更新时间:2024.08.23 11:28:37首次发布时间:2022.11.03 16:50:56

veImageX 提供了图片智能审核功能,支持分类型智能检测图片中涉黄、涉政、涉暴恐、违法违规等十几种禁用行为(详情参见维度说明),并返回给您最终识别结果。从而满足您的业务审核场景,避免违规图片给您带来的业务和法律上的风险,提高品牌可信度。

应用场景

  1. 网站论坛:支持用户原创内容类网站的违法违规图片的识别和处理,可以识别并预警用户上传的不合规图片,帮助您快速定位处理,降低业务违规风险。
  2. 电商商城:高效识别并预警商家或客户上传商品图中的不合规图片,避免涉黄、涉暴、涉政等十几种指定违禁维度的图片发布,可以降低人工审核成本以及避免违规风险。
  3. 传媒:可以批量识别如小说漫画等插图中涉黄、涉暴等行为,提高此类文本发行出版的质量。

前提条件

计费说明

智能审核功能属于附加组件下智能处理模块,属于后付费计费,使用后会产生附加组件智能处理费用

说明

若对低频存储图片资源的 URI/URL 执行了智能审核,将产生低频存储数据取回费用。

本功能计费注意事项如下所示:

  • 智能审核按照各审核维度在审核成功状态下的审核次数进行计费。

    注意

    您可在审核结果明细查看用于计量计费的审核成功次数。例如,您在结果明细中查询到审核成功次数为 1500 次,那么您使用智能审核后所需支付的费用 = 单价 x 审核成功千次 x 倍率,即 0.069 x 1.5 x 15 ≈ 1.55 元。

    计费维度如下表所示:

    审核维度
    维度说明
    基础安全审核
    涉黄、涉政、涉暴、违法违规
    智能安全审核 - 图像风险识别
    具体维度及说明如下所示
    智能安全审核 - 图文风险识别
    具体维度及说明如下所示

    说明

    例如,您的审核任务指定的审核维度为涉黄、涉政、涉暴、违法违规,则某单张图片在四个维度审核成功时,veImageX 将对该图片进行四次计费核算。

  • 若图片审核失败,在重试成功后才会被计为计费量;若重试后仍然审核失败,则不会被计为计费量。

  • 若某图片审核成功但已被删除或冻结,在该状态下仍会被计为计费量。

  • 若您在审核任务中开通了大图审核能力,则对于图片大小在 5MB~32MB 之间的图片,veImageX 会先压缩再审核,其中压缩能力将按照基础图片处理服务(您每月可使用 20TB 的免费额度)计量计费。

使用限制

使用该组件前,请先确认智能审核的限制条件,详见附加组件使用限制

操作步骤

创建审核任务

  1. 在附加组件页面,单击智能审核

  2. 默认进入我的审核任务页面,单击新建审核任务,创建您的图片审核任务。

  3. 在弹出的右侧新建审核任务页面,请根据指引完成配置。

    配置类型配置项说明
    基础配置服务名称在下拉框中选择要审核的服务

    审核场景

    • 图片上传场景:针对上传环节图片请求获取结果;
    • 存量图片处理:针对已有存储内的图片请求获取结果。

    审核范围

    • 图片上传场景:
      • 不限范围
      • 指定范围,若你希望对某个目录进行审核或不审核,请设置路径为对应的目录名,以 / 结尾。例test/
        • 指定前缀审核,即需要对某个目录进行审核;
        • 指定前缀不审核,即不需要对某个目录进行审核。
    • 存量图片处理:支持上传指定的 URL 列表文件,系统将对文件内填写的全部 URL 进行审核。支持扩展名:.txt文件,其中 URL 不超过 10 万条。
      示例文件下载
      74.00Bytes

      注意

      若您配置了上传 Content-Type 限制,则上传文件的格式需在服务的 Content-Type 白名单内,否则,无法成功上传。

    审核能力

    自定义审核维度,可多选。

    • 智能安全审核
      • 图像风险识别:涉黄、涉敏1、涉敏2、违禁、引人不适、二维码、不良画面、性感低俗、年龄、未成年相关、图片质量
      • 图文风险识别:广告、诈骗、文字违规

    说明

    您可将图像风险识别和图文风险识别进行搭配使用。

    • 基础安全审核:涉黄、涉政、涉暴恐、违法违规

    说明

    智能安全审核与基础安全审核均支持涉黄审核,但支持这两种模型的的底层算法模型策略不同,所以两种模型的涉黄维度审核结果不一定相同。

    大图审核

    图片审核仅支持审核 5MB 以下的图片,若您的图片大小在 5MB~32MB,您可以开启大图审核功能,veImageX 会对图片压缩后再进行审核。开启后,将对压缩能力按照基础图片处理进行计费。

    说明

    • 若未开启大图审核且图片大小 ≥ 5 MB,可能会导致系统超时报错;
    • 若已开启大图审核但图片大小 ≥ 32 MB,可能会导致系统超时报错。

    内容冻结

    冻结措施

    对应审核问题图片的安全处理措施,不支持下发该图片。

    • 建议不通过:对应内外部接口返回为建议不通过/违规,建议直接拦截;
    • 建议复审:对应内外部接口返回为建议复审/可疑,建议人工审核。
    冻结数据维度支持自定义数据维度,系统根据选择的结果进行数据冻结。冻结维度可少于所选审核维度或与其保持一致。
    冻结策略当前仅支持选择禁用图片,资源被禁用。
    回调设置回调类型支持自定义配置回调类型,系统根据选择的结果进行数据回调。回调维度可少于所选审核维度或与其保持一致。

    回调数据

    支持自定义回调图片类型,与回调类型搭配筛选符合的图片进行数据回调。

    • 正常图片,即图片为正常图片时返回回调内容
    • 问题图片,即图片为问题图片时返回回调内容
    • 冻结图片,即图片为冻结图片时返回回调内容
    • 审核失败图片,即图片为审核失败图片时返回回调内容
    回调 URL支持自定义回调协议(http / https),并输入回调地址,接收图片审核结果。回调详情请见回调内容
  4. 点击确认,保存审核任务配置。

管理审核任务

  1. 您可以在我的审核任务页面,管理创建完成的审核任务。

  2. 您可以参考下表管理您的审核任务。

    审核状态操作说明
    任务已完成明细查询支持查看该任务中审核异常的图片详情。
    任务详情支持在页面右方查看该任务配置详情。
    任务审核中暂停审核任务暂停。
    取消审核任务取消。
    明细查询支持查看该任务中审核异常的图片详情。
    任务详情支持在页面右方查看该任务配置详情。
    任务已暂停继续审核任务继续。
    取消审核任务取消。
    明细查询支持查看该任务中审核异常的图片详情。
    任务详情支持在页面右方查看该任务配置详情。
    任务已取消编辑支持对该任务配置项进行重新配置。(不支持修改审核场景)
    明细查询支持查看该任务中审核异常的图片详情。
    任务详情支持在页面右方查看该任务配置详情。
    任务已失败重试支持重新提交任务后,接着失败节点继续审核。
    编辑支持对该任务配置项进行重新配置。(不支持修改审核场景)
    明细查询支持查看该任务中审核异常的图片详情。
    任务详情支持在页面右方查看该任务配置详情。

获取审核结果

  1. 在附加组件页面,单击智能审核

  2. 单击结果明细,进入该页面可查看所有审核异常图片详细信息。

    说明

    • 结果明细页面仅展示您的审核异常图片,全部图片详细信息请在回调结果查看。
    • 若您点击明细查询或搜索任务 ID 后,发现结果明细内无具体内容,表示该图片审核成功无异常。
  3. 在结果明细页面,您可以查看异常审核结果图片和审核明细,在上方筛选栏您可以自定义审核类型、图片类型、问题类型,查看筛选状态下异常图片。

    说明

    本能力按照审核成功次数进行计量计费,若您新建的单张图片审核任务包含了四种审核维度,则该任务审核成功后,审核成功次数为 4。

    • 单个任务的审核次数 = 审核维度个数 x 审核图片个数
    • 任务审核总次数/总图片量 = 审核成功次数/图片量 + 审核失败次数/图片量
    • 审核异常总次数/总图片量 = 审核失败次数/图片量 + 建议复审次数/图片量 + 建议不通过次数/图片量

    说明

    若审核失败图片提交重新审核后审核成功,将会自动从列表中移出。

  4. 选择异常图片后,您可根据图片类型,对图片执行以下操作。

    图片类型操作操作说明
    冻结图片恢复恢复冻结图片到原始审核结果状态。
    删除删除该条审核和对应的图片资源。
    详情可查看图片 URI 以及审核结果。
    问题图片冻结冻结图片,该图片不可下发。
    删除删除该条审核和对应的图片资源。
    详情可查看图片 URI 以及审核结果。
    审核失败图片重试重新提交审核,将重新生成一条任务记录。
    删除删除该条审核和对应的图片资源。
    详情可查看图片 URI 以及审核结果。

回调内容

您在智能审核开启回调后,在图片审核结束后 veImageX 会将审核结果以 json 形式回调至您的回调地址。您可以通过回调内容,进行后续的文件处理操作,具体如下表所示:

参数名类型含义
IdString审核任务中图片对应 EntryID
ImageString图片资源 URI 或 URL。取决于创建任务传入的图片资源地址。

Status

String

审核状态,取值如下所示:

  • Success:成功
  • Fail:失败

AuditImageType

String

审核后图片类型,取值如下所示:

  • normal:正常
  • frozen:冻结图片
  • problem:问题图片
  • fail:审核失败

AuditSuggestion

String

审核建议,取值如下所示:

  • nopass:建议不通过
  • recheck:建议复审
InvolveDimensionArray of String审核后图片涉及的违规 tag
SubLabelArray of String具体审核结果标签

OpenAPI

开通计费配置后,您可以通过调用 OpenAPI 来完成智能审核相关操作,具体如下所示:

服务端 SDK

veImageX 提供了配套的开发工具集 SDK,支持多种编程语言,帮助您更方便的调用 API。