近日,中国信息通信研究院、内容科技产业推进方阵发布2022内容审核服务系统评测结果,腾讯安全天御内容风控系统在文本、图像、音频、视频四大类型的16项场景评测中均为满分,斩获“全五星”最高评级。

(相关资料图)

本次内容审核服务系统评测基于《网络治理能力评估规范:第2部分-有害信息内容识别服务系统》,从内容识别系统的图像、文本、音频、视频的智能识别基础功能、性能两个维度对产品进行评测,并根据性能测试结果评定星级。其中,5星是本次评测的最高能力标准。

获得五星认证的难度相较往年有所提升。本次测评中增加了变体测试和对抗测试,同时测评样本来源也进行更新,极短音频、边缘图片等复杂场景增加,这对参与测评系统的内容识别精准性、识别策略灵活性也提出了更高的要求。腾讯安全天御内容风控系统在四大核心测评场景中均取得五星成绩,足见其在内容安全领域的能力优势。

腾讯安全天御内容风控解决方案依托腾讯20多年黑灰产攻防经验,以人工智能为核心,通过风控策略的灵活调度,打造覆盖图片、文本、音频、视频全内容形态的AI智能内容风控服务,为网络空间清朗保驾护航。

在内容识别样本维度,腾讯在多年产品运营过程中积累了万亿级违规样本,覆盖各个行业的数百种违规类型,并实时跟进监管要求,能够高效识别过滤涉黄、涉恐等违规内容;在底层算法维度,腾讯安全天御内容风控融合了数十种算法技术构建综合识别模型体系,避免单一模型误判,使机器审核识别准确率高达95%以上。

此外,随着风控标准和内容对抗形态升级,腾讯安全天御内容风控体系也紧跟企业需求迭代升级,配合精细化标签体系,并支持灵活的策略配置以适配不同的应用场景。

针对越来越多“语音转文字”的社交场景,如IM聊天消息、多人语音通话、语音聊天室等,天御内容风控体系在精准识别低俗语音等违规内容同时,还可借助语音识别(ASR)引擎,转译语音内容,通过文本内容风控系统,帮助用户进一步处理社交场景中产生的音频数据。

随着各内容平台多元功能和用户属性的演变,内容风控还涉及不同语种场景的分类检测。目前,天御音频审核系统在常见的普通话、英语外,还支持粤语、蒙语、藏语、维语、日语、韩语等小语种及方言的语音内容识别,大大提升了音频审核覆盖的广度和深度,可有效应对新型对抗变异的内容形态。

资源交易、账号交易、虚假兼职等广告信息,往往混杂在海量真实信息中让人难以分辨,并通过多种手段如同音字转换、文字转拼音等生成对抗变异内容。腾讯安全天御内容风控体系可分别提取内容形态中的关键元素,综合视、音、图、文审核能力进行识别过滤,对风险广告进行及时的应对和处理。

目前,腾讯安全天御风控已为1500多家平台提供内容安全服务,共计审核图片总量已突破3000亿条,累计拦截不良内容超5亿条,更多次参与护航重大展会、峰会的内容安全。

【广告】

（免责声明：此文内容为广告，相关素材由广告主提供，广告主对本广告内容的真实性负责。本网发布目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责，请自行核实相关内容。广告内容仅供读者参考。）

关键词： 内容风控