昨天注意到,我们内容安全审核的成本挺高的。简单描述一下目前内容审核能力的构成:

  1. 相对简单的基于词库的过滤机制(自研,除了文本处理之外,也将包括图片、文件等内容处理);
  2. 机器审核(第三方);
  3. 人工审核,包括主题与评论中的文字、图片、音频、视频、文件等内容(第三方);
  4. 人工复核(自建)。

光是第三项,人工审核这块,一年成本近百万,随着后续视频能力放开,可能还会急剧上升,因此昨天和同事聊天时,请教是不是能优化,比如: