内容安全产品手册.pdfVIP

MOMO内容安全-产品介绍 1.产品简介 MOMO内容安全服务基于计算机视觉技术、文本语义分析、语音识别、声纹鉴别、OCR等前沿人工智能技 术，结合海量数据和机器深度学习能力，对图片、文本、视频、音频的内容风险进行多维度的识别检测。 基于MOMO直播社交场景的深刻理解和经验，直播场景下的内容安全检测能力效果更为突出。 支持机器检测和人工审核，对机器判定高风险内容可进行人工复审，进一步保证业务的内容安全无风险。 提供多种细分机审模型，支持自定义配置机审模型和审核标准、自定义配置文本敏感词库；支持图文音视 频审核、实时流审核监控、举报审核等业务场景。可适配不同平台的多种业务场景，满足业务精细化、个 性化的使用需求。 2. 内容安全检测机制 说明： • 支持业务方自行配置机器审核模型和审核结果信心率阈值 • 信心率：机器模型对返回结果的信心程度 • 非实时流审核下，先返回机审结果，再过人工复审（可选择跳过人工） • 人工审核结果会回调返回给业务 实时流审核： • 实时流审核为单独的审核流程，会通过对实时流抽帧检测后对相关房 间进行分数加权，最终分配到不同的监控队列，进行人工实时监控 3.产品能力模型 4. 内容安全业务图谱 垃圾检测 军警检测 诈骗检测 直播/视频 语音聊天室 涉政检测 文本 低俗检测 弹幕 个人资料 色情检测 图片 内容安全 音频 声纹鉴黄 评论 IM消息 视频 广告检测 吸烟/躺床 头像/相册 文档安全 二维码 导流检测 暴恐检测 4-1.检测模型- 【图片】 • 支持选择并配置以下细分模型： • 典型应用场景： 政治人物、政治事件 警察 血腥场面 头像/相册 旗帜标识、特殊地标 军人 游行/抗议 涉政检测 军警检测 暴恐检测 人民币、身份证…… 国庆阅兵/武器