回调审核结果 DetectionResult--实时音视频-火山引擎

文档中心

导航

实时音视频

回调审核结果 DetectionResult

最近更新时间：2024.06.26 11:29:00首次发布时间：2022.03.16 15:12:04

开启审核功能后，如果审核的内容存在违规，你在接口中指定的 url 地址会收到来自 RTC 服务端的消息回调，相关事件的信息包含在回调字段中。

回调行为

开启审核功能后，如果模型判断指定用户发送的内容可能违规，发起审核时指定的 url 地址会收到关于违规信息的 HTTP POST 请求。具体回调信息包含在 Request Body 中。
你需要部署 HTTP(s) 服务以接收回调，在接收到回调时，返回 HTTP 状态码 200。

回调字段

Request Body：

参数名	类型	示例值	描述
EventType	String	`MachineReviewResult`	事件类型
EventData	String	/	具体的事件内容
EventTime	String	`2021-08-19T11:47:28+08:00`	事件产生时间，RFC3339 格式
EventId	String	`6110e5394f69bb00ca885806_bc_test1234567_bc_1111_1629344822736_img_doc`	用于去重的事件 ID
Version	String	`2020-12-01`	回调版本，本接口取值：`2020-12-01`
AppId	String	`Your_AppId`	应用的唯一标志
Signature	String	`LWEBANvuLWECANvuLWEDANvuLWEEANvuLWEFANvuLWEgANX6uh+5+4QOmBj97xGmlCwQ62k5Urz7+KAvhUbdPiip`	回调签名
Nonce	String	9091	4位签名随机数

EventData

参数名	类型	示例值	描述
RoomId	String	`Your_RoomId`	房间 ID，是房间的唯一标志
UserId	String	`Your_UserId`	用户 ID
MediaType	Uint32	`1`	可能违规的内容类型： 1：视频截图； 2：音频切片
Images	List	["``http://1.jpg``", "``http://2.jpg``"]	用户审核图片的 url
Audio	String	`http://1.wav`	用户审核音频的 url
AudioText	String	`血腥暴力`	用户语音识别的文本
HitReasons	List	["``mandarin``"]	违规原因
RiskHit	List<risk>	`[{"Score":0.9039,"Name":"gun"}]`	命中的模型列表。若没有命中违规内容，则不返回该字段。
RiskALL	List	`[{"Score":0,"Name":"POLITY"}]`	已配置的所有模型列表
Suggest	String	`PASS`	对审核用户执行操作建议： - PASS - REVIEW - REJECT
AIResultOrigin	String	`{}`	审核模型的原始结果。该字段已列出审核结果的关键信息，若你要看查看全部信息，可参看此参数的传出值。
AudioSegmentInfo	AudioSegmentInfo	/	音频切片信息。仅在音频审核时返回

risk

参数名	类型	示例值	描述
Name	String	`porn_general_image_v4`	命中风险模型的英文名
Score	Float	`1`	模型分数0-1，得分越高，内容违规可能性越高。

AudioSegmentInfo

参数名	类型	示例值	描述
StartTime	Int64	`1685451004282`	切片开始时间戳，Unix 时间，单位 ms。
FinishTime	Int64	`1685451033112`	切片结束时间戳，Unix 时间，单位 ms。
Duration	Int	`28830`	音频切片时长，单位 ms。

请求示例

Body
图片：

{
    "EventType":"MachineReviewResult",
    "EventData":"{
        "RoomId":"Your_RoomId",
        "UserId":"Your_UserId",
        "MediaType":1,
        "Images":["http://1.jpg", "http://2.jpg"],
        "Audio":"http://1.wav",
        "AudioText":"Your_AudioText",
        "HitReasons":[
         "politics",
            "abuse",
            "abuse"
        ],
        "RiskHit":[
            {
                "Score":0.85439557,
                "Name":"politics"
            }
        ],
        "RiskALL":[
            {
                "Score":0,
                "Name":"POLITY"
            }
        ]
        "Suggest":"REJECT",
        "AIResultOrigin":"{}"
    }
    "EventTime":"2023-05-30T20:51:07+08:00",
    "EventId":"Your_EventId",
    "Version":"2020-12-01",
    "AppId":"Your_AppId",
    "Signature":"Your_Signature",
    "Nonce":"7302"
}

音频

{
    "EventType":"MachineReviewResult",
    "EventData":"{
        "RoomId":"Your_RoomId",
        "UserId":"Your_UserId",
        "MediaType":2,
        "Images":["`http://1.jpg", "http://2.jpg`"],
        "Audio":"http://1.wav",
        "AudioText":"Your_AudioText",
        "HitReasons":[
         "politics",
            "abuse",
            "abuse"
        ],
        "RiskHit":[
            {
                "Score":0.85439557,
                "Name":"politics"
            }
        ],
        "RiskALL":[
            {
                "Score":0,
                "Name":"POLITY"
            }
        ]
        "Suggest":"REJECT",
        "AIResultOrigin":"{}",
        "AudioSegmentInfo":{
            "StartTime":1685451004282,
            "FinishTime":1685451033112,
            "Duration":28830
        }
    }
    "EventTime":"2023-05-30T20:51:07+08:00",
    "EventId":"Your_EventId",
    "Version":"2020-12-01",
    "AppId":"Your_AppId",
    "Signature":"Your_Signature",
    "Nonce":"7302"
}