鉴黄师 · 内容安全审核鉴别服务平台

覆盖文本、图片、音频、视频和直播流。文本侧重谐音、拆字、隐语等变体识别，图片和视频侧重画面内容与场景意图判断，音频侧重语音中的违规暗语。直播流按实时流式处理，延迟控制在秒级。

智能模型负责全量初筛，把明确合规的内容直接放行，把疑似违规的内容推给人工复核。人工复核环节对模型判定做二次确认，同时把复核结果回流给模型做迭代。模型处理不了的模糊地带和突发新型违规，由人工兜底。

可以。不同业务场景的风险侧重点不同，直播侧重实时音视频违规，电商侧重虚假宣传和违禁品，社交社区侧重评论和私信中的引流行为。平台提供规则配置入口，按场景勾选审核维度和处置策略。

长期接触违规内容对审核员有心理影响，这是行业公开的痛点。平台在流程上做了几件事：违规内容默认模糊化展示，需要主动点击才展开原图或原视频；单次连续审核时长设上限，到点强制轮换；配备定期的心理疏导入口。

每条审核记录包含判定结果、判定依据、审核时间和操作人。处置动作包括放行、限流、删除、封禁等，操作日志保留完整链路。需要申诉时可以从记录中调取原始素材和判定理由。

有。AIGC内容的风险特征和用户生成内容不同，批量生成、跨模态组合、提示词变体是主要难点。平台针对AI生成内容增加了多模态联合分析和意图推理维度，对谐音、拆字、暗号的变体召回做了针对性优化。

声音审核的难点在于自然语言的多义性。同一句话在不同语调、语境下含义可能完全不同，机器对模糊语义的判断准确率低于图文。声音审核目前仍以人工聆听为主，机器做辅助预筛和关键词触发。

支持。对有数据不出域要求的客户，平台提供私有化部署方案，模型和审核引擎部署在客户自有环境内。部署周期和配置项根据业务规模和内容类型评估后确定。

准确率因内容类型和违规类别差异较大。明确违规（如露点、暴力画面）的识别准确率较高，软色情、擦边球、隐喻引流等主观尺度较大的类别准确率相对低，需要人工复核兜底。平台按类别分别统计准确率，不合并成一个笼统的数字。

审核日志和判定记录按客户配置的保留周期存储。原始素材的保留策略取决于业务方的合规要求，平台支持按需设置保留时长和自动清理规则。敏感素材在存储和传输环节做了加密处理。