内容安全 · 机审与人工协同

把海量用户内容,
变成可控的风险队列

长沙欣智内容审核有限公司面向社交、社区、电商、直播与工具类平台,提供图文、视频、语音与直播的机审加人工审核服务。我们不只处理队列,也参与策略校准:从规则翻译、样本试标到抽检复核,把审核口径从一纸文档变成可执行、可量化、可复盘的日常作业,帮助客户在合规压力与用户体验之间找到平衡点。

聊聊你的审核场景 查看服务清单

长沙欣智内容审核有限公司 logo

三个核心能力

01 人机分工设计

审核的成本大头往往不是人力,而是机审漏放与人审误伤的来回拉扯。我们先对客户的历史样本做分层试标,测算各类目的机审召回与误伤率,再决定哪些类目直接拦截、哪些进人审、哪些放行后巡检。交付物是一份分工矩阵与对应的策略参数建议,上线后按周复盘调参,而不是一次性交付后不管。

02 口径翻译与培训

平台规则写得再细,落到一线审核员手上仍会出现理解偏差,尤其在擦边类目上。我们把规则拆成带案例的判断树:每条口径配正例、反例与边界样本,新规则先小范围试标、比对分歧、再全员宣贯。口径变更全程留痕,出现申诉争议时可以回溯到当时生效的版本,避免各说各话。

03 质量抽检与复盘

没有抽检的审核团队质量一定会漂移。我们按类目分层抽样复核,统计准确率、漏放率与误伤率三项指标,对偏差样本逐条归因:是口径不清、培训不到位,还是疲劳与排班问题。复盘结论回写培训材料与机审策略,形成闭环。客户每月拿到的是指标报表加改进清单,而不是一句合格。

九项服务

文本内容审核流程示意

文本内容审核

对帖子、评论、私信文本做违禁识别与倾向判断,机审拦截加人工复核,处理变体与谐音规避。

  • 覆盖变体词与谐音规避
  • 高频队列分钟级响应
  • 按条计费,支持弹性扩量
图片审核工作台示意

图片审核

处理封面图、相册与商品图,识别违规图像与场景,结合上下文文本做联合判断,降低误伤率。

  • 适用电商与社区封面场景
  • 与文本口径联动判断
  • 抽检报告按周输出
视频审核抽帧示意

视频审核

对短视频与点播内容做抽帧加音频转写审核,重点盯头尾与关键帧,兼顾时效与覆盖率。

  • 抽帧密度可按风险调节
  • 音频转写进入文本通道
  • 单条时长按时长折算计费
直播巡查示意

直播巡查

对直播间进行轮流值守巡查,盯画面、弹幕与语音,发现违规即时标记并通知平台处置。

  • 值守密度按直播间风险分级
  • 巡查记录逐场留痕
  • 支持夜间与节假日排班
机审策略校准示意

机审策略校准

用人工标注结论反哺机审模型与规则库,调阈值、补样本、删误伤规则,让拦截越来越准。

  • 以抽检指标驱动调参
  • 输出阈值调整建议书
  • 按迭代周期交付
数据标注示意

数据标注

为模型训练提供审核口径一致的标注数据,包括分类、边界样本与难例收集,双人背靠背加仲裁。

  • 双人标注加仲裁机制
  • 标注规范文档随数据交付
  • 按框数或条数计价
风险巡检示意

存量风险巡检

对已发布的历史内容做批量回扫,按最新口径清理存量风险,输出清理清单供平台执行。

  • 按类目分批推进
  • 输出可复核的清理清单
  • 周期视存量规模而定
申诉复核示意

申诉复核

承接用户申诉件的二次判断,由资深审核员按既定口径复核,结论回写案例库用于培训。

  • 资深人员独立复核
  • 结论与理由可回溯
  • 按件计费,量小可月结
审核培训示意

审核能力培训

为客户自有审核团队提供规则培训、案例库建设与上岗考核设计,把口径沉淀成教材。

  • 含题库与考核标准
  • 案例库持续更新
  • 按课时或项目制交付

合作四步

  1. 样本测评——客户提供历史样本与现行规则,我们小批量试标,测算各类目的工时与难度分布。
  2. 方案与报价——基于试标结果给出人机分工矩阵、排班方案与计费区间,双方确认口径与验收指标。
  3. 上线运行——小流量并行验证一周左右,比对双方判断分歧,校准后全量切换。
  4. 抽检复盘——按周抽检、按月复盘,指标不达标时归因并调整,规则变更随客户节奏同步。

常见问题

审核服务如何计费?
通常按处理量计费,即按条数、张数或时长折算,辅以风险等级与时效要求加成。具体单价需结合样本测评后协商,我们会先跑一批样本测算通过率与工时,再给出报价区间。
多长的规则变更周期可以接受?
常规规则调整可在数个工作日内完成全员宣贯与生效;涉及新类目口径的重大调整,建议预留试标与校准时间,避免口径不一致导致误判。
误判如何申诉与纠正?
平台通常提供申诉入口,申诉件会进入复核队列,由资深审核员按已确认的口径重新判断,复核结论会回写案例库,用于后续培训与策略修正。
数据安全如何保障?
审核环境隔离、水印与截屏管控、按最小必要原则接触数据,并配合客户的保密协议与安全审计要求执行,敏感类目可申请专线与封闭作业。
如何验收审核质量?
常用方式是定期抽检:从已处理内容中抽样复核,统计准确率、漏放率与误伤率,按合同约定的阈值考核,并对偏差样本做归因分析。

带着你的样本聊聊

发一批有代表性的内容样本和现行规则过来,我们先跑试标,用数据谈合作。也可以发邮件至 hello@cyehui.cn 说明你的审核场景。

联系我们