鉴黄师 · 内容安全审核与复核工作台

鉴黄师:把该拦的拦住,把该放的放行

图像、视频、直播画面和文本语义都在同一套审核流程里流转。机器先做初筛,把可疑样本挑出来,人工再对真正需要判断的部分做复核。

鉴黄师关注的不只是识别率,还有处置是否分级、判断是否可追溯、误判能否申诉。审核这件事,稳比快更重要。

图像审核 视频审核 直播巡检 文本语义 语音识别 社交图文 电商主图 评论区治理 未成年人保护 跨境合规 申诉复核 风控报表
首页/核心功能

核心功能 · 机器负责筛,人负责判断

审核系统最怕的是“什么都交给机器”或者“什么都压给人”。鉴黄师把两端的边界划清楚,各做各擅长的事。

🧿

多模态初筛

图像、视频帧、语音转写文本和图文混排内容进入同一套初筛流程,按风险类型打上标签并给出置信度。低置信度样本不会直接放行,而是自动转入人工待审队列,避免在模糊地带出现漏判。

👁️

人工复核台

复核台把同一批样本的上下文放在一起展示,包括发布账号、历史记录和相近样本的处置结果。审核员看到的不只是一张图,而是一个完整的判断环境,减少因为信息不全造成的误判。

📡

直播实时巡检

直播画面按固定间隔抽帧并做连续比对,出现持续性的风险画面时会在几秒内触发预警。预警只会提示,不会直接切断,最终处置仍由值班审核员确认后执行。

🧾

分级处置策略

风险不是非黑即白。鉴黄师按严重程度把处置分成提示、限流、下架和封禁几档,不同档位对应不同的审批层级。分级的意义在于避免一刀切,也避免把轻微问题放大成严重事故。

📮

申诉工单流转

被处置的内容可以发起申诉,工单会带着原始样本、处置理由和审核记录一起流转到复核组。复核结果无论维持还是推翻,都会回写进该审核员的判断记录里,用于后续的规则校准。

📊

风控报表输出

按业务线、风险类型和时间维度生成审核报表,包含处理量、拦截率、误判申诉率和平均复核耗时。报表可以直接导出,用于内部复盘或者对外的合规说明。

首页/典型识别场景

典型识别场景 · 八类最容易出问题的样本

以下场景来自鉴黄师规则库中处理频次较高的几类样本,封面为示意渐变,识别难度与平均复核耗时以站内记录为准。

◉平均复核 12 秒高

直播带货擦边画面

主播在介绍服装时出现明显越界展示,画面连续性强,单帧识别容易漏判。需要按时间轴做连续比对,并结合上下文判断是否为演示动作。

直播连续比对高难度
查看样例
◉平均复核 9 秒中

社交图文九宫格

单张图片本身合规,但多张图片组合后形成暗示性表达。这类样本考验的是对整组内容的整体判断,而不是逐张孤立识别。

图文组合识别中难度
查看样例
◉平均复核 7 秒中

短视频封面引导文案

封面画面正常,但叠加的标题文字带有明显引导性。需要把视觉识别和文本识别结果合并判断,单看任何一路都容易放过。

短视频图文混合中难度
查看样例
◉平均复核 6 秒中

评论区谐音变体

用同音字、拆字或拼音首字母规避关键词匹配。这类样本更新速度快,需要规则库持续跟进,同时依靠语义模型做兜底识别。

文本变体识别高频
查看样例
◉平均复核 8 秒中

电商主图暗示表达

商品本身是普通品类,但构图、模特姿态或水印文字形成暗示。判断时需要结合商品类目和店铺历史记录,避免误伤正常经营。

电商暗示识别谨慎处置
查看样例
◉平均复核 14 秒高

语音房音频片段

语音内容无法直接看到画面,需要先转写成文本再做语义判断。方言、口音和背景音乐都会影响转写准确度,是高耗时的一类样本。

语音转写识别高难度
查看样例
◉平均复核 10 秒高

私信跨账号引流

单条私信内容本身没有明显问题,但多个账号在短时间内向同一批用户发送相似话术。需要跨账号串联分析,才能看出背后的引流意图。

私信跨账号关联分析
查看样例
◉平均复核 11 秒高

跨境多语种内容

同一段内容包含多种语言,部分风险表达在单一语种下并不明显。需要多语种识别能力配合本地化规则,判断标准也要跟着调整。

跨境多语种规则适配
查看样例
首页/核心优势

核心优势 · 审核平台好不好,看的是出错之后怎么补

识别率再高也会有漏判和误判。真正决定一套系统能否长期用的,是它出错之后有没有可追溯、可纠正的路径。

🎚️

处置分级不粗暴

轻度问题走提示和限流,严重问题才触发下架和封禁。分级不是为了宽松,而是为了让每一次处置都和实际风险匹配,避免把小问题放大成账号事故。

🧭

判断全程留痕

每一条处置记录都保留了原始样本、审核员编号、判断依据和时间戳。出现争议时可以回放整条判断链路,而不是只看到一个结果。

🔁

申诉有回音

申诉不是摆设。工单进入复核组之后会有明确的处理时限,复核结果会回写给原审核员。反复被推翻的判断会进入规则校准的参考样本池。

⚖️

误伤控制优先

对于教育、医疗、艺术等容易被误判的领域,规则库单独设置了白名单和降级判断流程。宁可多一步人工确认,也不轻易把正常内容拦掉。

🔐

数据权限隔离

审核样本按业务线和敏感级别分区存放,不同角色只能看到职责范围内的内容。查看记录同样留痕,防止样本被越权调阅或外传。

🧮

效率可量化

每位审核员的处理量、平均复核耗时和申诉推翻率都会被统计。数据用于排班和培训,不用于简单的排名考核,避免为了追求速度牺牲判断质量。

首页/深度知识

深度知识 · 人工审核为什么不能被完全替代

机器可以处理绝大部分明确的样本,但剩下的那一小部分,恰恰是最需要人来判断的。

人机协同的边界:机器筛得准,人判得稳

一、明确的样本,机器比人快得多

对于绝大多数边界清晰的样本,机器识别的速度和一致性远高于人工。一张明显违规的图片,机器可以在毫秒级别给出判断并打上标签,人工逐张去看反而是一种浪费。审核系统的第一层价值,就是把这一部分明确样本快速处理掉,让人不必在不需要判断的地方消耗精力。

二、模糊地带才是成本所在

真正耗费成本的是那些“像又不像”的样本。同样是展示服装,正常的试穿演示和带有暗示意图的展示之间,差别往往在于动作的连续性、镜头停留的时长和整体语境。这些信息很难被单帧识别捕捉,需要有人在完整上下文中做判断。机器可以给出置信度,但置信度本身不能替代判断。

三、误判的代价不止一次拦截

一次误判带来的影响往往被低估。对创作者来说,正常内容被下架会直接打击发布意愿;对平台来说,频繁误伤会推高申诉量,也会消耗审核团队的信任度。因此审核系统的设计不能只盯着拦截率,还要看误判率和申诉推翻率。这两个指标往往比识别率更能反映系统的健康程度。

四、分级处置是减少误伤的关键

把处置分成提示、限流、下架和封禁几档,本质上是给判断留出容错空间。对于把握不大的样本,先做轻度处置,既控制了风险扩散,也给了内容方申诉的机会。等到复核确认之后再升级处置,比一上来就下重手要稳妥得多。鉴黄师在规则层面把分级做成了默认选项,而不是需要额外配置的高级功能。

五、留痕让判断可以被复盘

审核是一项主观性很强的工作,不同的人对同一个样本可能有不同判断。留痕的意义在于让这些判断可以被复盘:当时看到了什么、依据哪条规则、为什么这样处置。当争议出现时,复盘的是整条判断链路,而不是一个孤立的结果。这也是审核系统能够持续校准、逐步提高准确度的前提。

六、人机协同不是折中,而是分工

把机器和人工放在对立面讨论没有意义。合理的做法是明确各自的位置:机器负责处理明确样本、给出置信度、做初步分类;人负责处理模糊样本、做最终判断、参与规则校准。分工清楚了,效率和质量才可能同时成立。

首页/专家观点

专家观点 · 做审核的人,怎么看审核系统

四位长期在内容安全和风控一线的人,聊了聊他们对人机协同这条路径的判断。

闻
闻砚舟
内容安全负责人

鉴黄师把分级处置做成了默认选项,这个设计看起来不起眼,但对实际运营影响很大。过去团队最怕的就是一刀切,动不动就封号,申诉量压得人喘不过气。有了分级之后,轻度问题先提示,严重问题才升级,整体申诉率明显下来了。

简
简知微
风控产品经理

审核系统最容易出问题的地方不是识别不准,而是判断过程不可追溯。一旦出了争议,没人能说清楚当时到底看到了什么、依据是什么。鉴黄师把原始样本和判断依据都留了下来,这一点在对外沟通的时候价值极高。

陆
陆行川
直播平台审核主管

直播巡检最怕的就是误切。画面刚有点问题就断开,主播和观众都会不满。鉴黄师的做法是先预警再人工确认,把切断的决定权留在人手里。这个取舍在直播场景里非常关键,我们上线之后误切投诉下降了接近一半。

池
池晚白
未成年人保护研究者

涉及未成年人的样本是最需要谨慎的一类。机器很容易把正常的校园活动、儿童才艺展示误判成风险内容。鉴黄师在教育、亲子这类场景单独设了降级流程,宁可多一步人工确认,也不轻易拦截。这个方向是对的。

首页/关于我们

关于我们 · 从一次误判开始

鉴黄师最早不是一个产品,而是一次让人难受的误判之后,团队决定重新做审核流程的产物。

当时的情况很普通:一位摄影师上传了一组人体艺术相关的作品,被系统按风险内容直接拦下,账号也被限流。申诉流程走了很久,最后确认是误判,但作品已经错过了发布窗口,创作者的信任也受到了影响。这件事之后,团队开始重新想一个问题:审核系统到底是为了拦住多少内容,还是为了让判断更准确。

最早的版本只做了两件事:把处置分成几档,把每一条判断的依据留下来。后来慢慢加上了多模态初筛、直播巡检和申诉工单。这些功能都不是一次规划好的,而是在处理真实样本的过程中一点点补上来的。有人说误切太频繁,我们就把切断的决定权交回给人;有人说规则更新跟不上变体,我们就把语义识别和关键词库分开维护。

鉴黄师现在仍然是一支不大的团队在维护。我们不打算做规模最大的那一个审核系统,只想把“判断准确、处置有度、出错能补”这三件事做扎实。内容安全这件事,本来就不该靠蛮力。

首页/最新资讯

最新资讯 · 平台这一阵的更新记录

功能调整与规则库更新,按时间从近到远排列。

2026年11月18日

复核台新增“相近样本”对照栏

复核界面右侧增加了相近样本对照区域,展示同一账号近期被处置过的内容。审核员可以在判断单条样本时参考历史记录,减少因为上下文缺失造成的误判。

2026年11月15日

直播巡检支持自定义抽帧间隔

不同业务线对直播画面的关注密度不同,巡检间隔现在可以按直播间类型单独设置。高互动场景默认加密抽帧,普通场景保持常规频率。

2026年11月12日

申诉工单增加处理时限提示

工单列表会显示每条申诉的剩余处理时间,超时工单会自动标红并推送给复核组长。处理时限按风险等级分档,严重问题的复核优先级更高。

2026年11月08日

多语种规则库补充三种语言

跨境内容识别新增了几种常见语种的规则支持,覆盖文本和语音转写两条链路。对应语种的判断标准也做了本地化调整,不直接套用单一标准。

2026年11月03日

风控报表支持按审核员维度导出

报表新增了审核员维度,可以查看每位审核员的处理量、平均耗时和申诉推翻率。数据主要用于培训复盘和排班参考,不作为单一考核依据。

2026年10月28日

未成年人相关样本增加二次确认

涉及未成年人的风险样本在进入最终处置前,需要第二位审核员做二次确认。确认记录会一并归档,防止单点判断造成误伤。

2026年10月20日

审核样本调阅权限进一步收紧

敏感级别较高的样本调阅需要额外授权,查看行为全程留痕。权限按业务线和岗位角色划分,跨线调阅需要走审批流程。

首页/答疑解惑

答疑解惑 · 二十个关于审核系统的疑问

点击问题即可查看回答,区域支持上下滑动。没有覆盖到的疑问可以通过页脚反馈。

鉴黄师是一套什么样的系统?

鉴黄师是一套面向内容平台的内容安全审核系统,核心是把机器初筛和人工复核串成一条可追溯的流程。它处理图像、视频、直播画面、语音和文本几类内容,并按风险程度分级处置。

为什么还需要人工审核,机器不够用吗?

对于边界清晰的样本,机器处理得又快又稳。但涉及语境、连续动作和跨内容组合的模糊样本,仍然需要人来判断。机器可以给出置信度,但不能替代最终判断。

分级处置具体分几档?

目前分为提示、限流、下架和封禁四档,不同档位对应不同的审批层级。轻度问题优先走前两档,确认风险升级后再进入后两档。

判断依据会保存多久?

原始样本、审核员编号、判断依据和时间戳会长期归档。样本本身按敏感级别分区存放,敏感级别较高的内容有单独的保留周期和调阅权限。

直播巡检会不会误切断正常直播?

巡检只做预警,不直接切断。出现风险提示后,由值班审核员在确认画面和上下文之后再决定是否处置。这个设计是为了减少误切对主播和观众的影响。

申诉工单的处理时限是多久?

按风险等级分档,严重问题的复核优先级更高,时限更短。工单列表会显示剩余处理时间,超时会自动提醒复核组长。

申诉被推翻之后会有什么影响?

复核结果会回写给原审核员,进入其判断记录。同一类判断如果反复被推翻,相关样本会被纳入规则校准的参考池,用于调整后续的识别策略。

多模态识别具体指哪些内容?

包括图像识别、视频抽帧比对、语音转写文本识别和图文混排内容识别。几路结果会在初筛阶段合并打分,再决定是否转入人工。

涉及未成年人的样本怎么处理?

单独设置判断流程,最终处置前需要第二位审核员做二次确认。教育和亲子类正常内容有单独的降级判断通道,尽量减少误伤。

教育、医疗、艺术类内容容易被误判吗?

这几类确实是误判高发区,规则库对它们单独设置了白名单和降级判断流程。遇到拿不准的样本,会优先转入人工而不是直接拦截。

跨境内容用什么标准判断?

按本地化规则判断,不直接套用单一标准。多语种识别支持文本和语音转写两条链路,规则库会针对不同语种做适配。

评论区的谐音变体怎么识别?

关键词库和语义模型分开维护。关键词库负责覆盖已知的变体写法,语义模型负责兜底识别规则库还没收录的新变体。两者配合使用。

审核员能看到哪些上下文信息?

复核台会展示发布账号、历史处置记录和相近样本对照。审核员看到的不只是单条样本,还有它所在的环境,这有助于提高判断准确度。

风控报表包含哪些指标?

包括处理量、拦截率、误判申诉率、申诉推翻率和平均复核耗时,可以按业务线、风险类型和时间维度查看,也支持导出。

报表数据会用于考核审核员吗?

数据主要用于培训复盘和排班参考,不作为单一考核依据。过度追求处理速度会牺牲判断质量,这一点在系统设计上已经做了规避。

样本调阅权限是怎么控制的?

按业务线和敏感级别分区,不同角色只能看到职责范围内的内容。敏感级别较高的样本调阅需要额外授权,跨线调阅要走审批流程。

视频抽帧的间隔可以调整吗?

可以。不同业务线可以按直播间类型或视频类型单独设置抽帧间隔。高互动场景默认加密抽帧,普通场景保持常规频率。

私信类风险内容怎么识别?

单条私信本身往往没有明显问题,需要跨账号串联分析。系统会把短时间内向同一批用户发送相似话术的行为汇总起来,作为整体样本判断。

语音内容怎么审核?

先做语音转写,再对转写文本做语义识别。方言、口音和背景音乐会影响到转写准确度,因此这一类样本通常会转入人工复核。

遇到判断争议怎么反馈?

在审核记录页底部有反馈入口,可以提交具体样本编号和争议点。反馈会进入规则校准流程,核实后会同步更新相关规则或判断流程。

首页/用户评论

用户评论 · 用过这套系统的人怎么说

评论按时间排列,鼠标移上去会自动暂停滚动,方便停下来细看。

褚
褚明远2026-11-18★★★★★

相近样本对照栏上线之后,团队里年轻审核员的误判率明显降了下来,判断时能看到历史记录确实不一样。

简
简知微2026-11-17★★★★☆

分级处置是我们一直想做的事,之前一刀切封号,申诉堆成山,现在轻问题先提示,压力小了很多。

陆
陆行川2026-11-16★★★★★

直播先预警再人工确认这个设计太关键了,我们之前误切被投诉过好几次,现在基本没有了。

池
池晚白2026-11-15★★★★☆

未成年人样本二次确认这点做得稳,虽然多一步,但涉及到这类内容宁可慢一点。

闻
闻砚舟2026-11-14★★★★★

判断留痕对我们对外沟通帮助很大,客户质疑处置结果的时候,能把整条链路调出来看,说服力完全不同。

费
费疏影2026-11-13★★★★☆

谐音变体识别比之前用的方案灵活,新变体出来之后,语义模型那边基本能兜住,不用天天改词库。

纪
纪晚风2026-11-12★★★★★

抽帧间隔能按业务线单独设,这个很实用,直播间和点播内容关注密度本来就不一样。

雷
雷听澜2026-11-11★★★★☆

教育类内容的白名单救了不少正常课件,之前公式图和人体示意图被误拦过几次,现在基本不会了。

路
路行舟2026-11-10★★★★★

申诉工单加了时限提示之后,复核组不敢再压单了,创作者那边的反馈也好了很多。

曾
曾照野2026-11-09★★★★☆

报表能按审核员导出,培训的时候拿出来逐条复盘,比泛泛讲规则有效得多。

符
符月白2026-11-08★★★★★

语音转写那块的准确度比预想的好,方言重一点的样本会转人工,这个兜底逻辑是对的。

邢
邢问渠2026-11-07★★★★☆

私信跨账号串联这个功能挺有想法,单看一条看不出来,汇总起来意图就很明显了。

尹
尹清和2026-11-06★★★★★

样本调阅权限收紧之后,内部数据流转规范了很多,敏感样本不会再被随手转发。

霍
霍寒声2026-11-05★★★★☆

跨境电商那边的多语种规则库补上之后,之前几个漏掉的语种样本现在能识别出来了。

邵
邵闻笛2026-11-04★★★★★

整体用下来,这套系统在“出错之后怎么补”这件事上想得比同类产品多,这点很难得。

简
简宁2026-11-03★★★★☆

希望后面能加一个按风险类型汇总的周报,现在按业务线看,想横向对比还得手动整理。

傅
傅晚2026-11-02★★★★★

人工复核台的上下文展示做得比较完整,不用来回切窗口去查账号历史,效率提升明显。

裴
裴照野2026-10-31★★★★☆

复核结果回写给原审核员这个细节挺好,被推翻的判断能自己看到原因,比只收到一个结论强。

卫
卫疏影2026-10-26★★★★★

从成本角度看,这套系统最值钱的地方是减少了误伤带来的二次沟通和申诉处理,省下来的人力很可观。

顾
顾临川2026-10-20★★★★☆

接入过程比预想的顺,规则迁移和样本导入都有配套工具,大概两周就跑起来了。