面对政策法规、用户体验，直播内容安全危机重重

饶晓艳认为，包括直播在内的所有互联网UGC产品的内容运营风险主要来自于两方面：一是政策法规，目前很多国家法规里面已经明确了对互联网产品中相关内容的要求——弹幕必须是要做到先审后发;直播间必须有水印标识;直播内容必须要有二十四小时的审核监管;表演者必须实名注册等。

二是涉及到用户体验，“现在大家实际看到的云音乐评论是特别有故事性，或者经常特别耐看，其实我们每天从云音乐的原创歌单或者评论区删掉的内容也非常多”，饶晓艳说，“不同的粉丝群经常也会出现掐架或者撕逼的状态，分分钟人身攻击到比较严重的程度，这些情况都需要过滤和处理”。

从直播类产品痛点案例来看，目前直播类碰到的内容监管有四个比较明显的难点：首先是弹幕聊天室的实时审核;然后是色情审核，现在仍然有秀场类的主播通过衣服脱下去再马上穿上的秒录行为打“擦边球”，如果监管不及时，很难抓到;再次是用户突发通过平台直播一个群体事件或者不良事件，平台需要担责;最后则是成本和技术方面的持续积累和投入负担过重。

网易云安全(易盾)如何在实战中解决内容安全问题?

面对专业黑产、政策法规规范、用户体验差等风险，饶晓艳解释说，网易云安全(易盾)在给内部产品或者外部产品提供内容安全服务时，首先会从文本、图片、视频和语音等方面入手，来一次全面的检测;在为做直播类产品提供服务时，网易云安全(易盾)还会从弹幕实时过滤、用户头像/昵称过滤、聊天区文本/图片过滤、直播间电视墙监控等方面来做内容安全解决方案。