1月18日，上海网信办联同其他各相关部门启动网络游戏信息内容专项整治活动，全面治理网络游戏领域乱象。无独有偶，四天后北京市网信办也协同其他部门，发布了关于查禁“儿童邪典视频”工作的紧急通知。

屡禁不止！内容平台被迫加大人工内容审查队伍

如果把时间拉长我们会发现，在过去的2017年间，关于内容平台被监管部门约谈、查禁的消息屡见报端。近期，某直播平台推出直播问答游戏，因涉及香港、台湾敏感问题被北京网信约谈整改。

还有另外一个颇具话题的事件，主播“White55开”解说在某活动中直播辱骂并诱导粉丝不良语言攻击某些个人和群体，造成了很恶劣的社会影响，某直播平台最后决定责令“55开”进行公开道歉，并向“55开”追加100万元罚款，暂停“55开”直播间直播。
2017年5月，文化部发布消息称，文化部严管严查网络表演经营单位，开展了集中执法检查和专项清理整治，关停10家网络表演平台，行政处罚48家网络表演经营单位。

直播平台变得风声鹤唳，纷纷加大了内容审核队伍的建设。

元旦假期前，针对某信息智能推荐平台持续传播低俗信息、违规提供互联网新闻信息服务等问题，北京网信办责令企业暂停更新24小时，此平台随后集中清理涉嫌违规的含低质内容的自媒体账号，封禁、禁言账号1101个。

此平台在被约谈之后，马上加大了内容安全审查的工作，据透露平台方将招聘内容审核编辑，负责海内外产品的内容审核人员，新增人数规模在2000人左右。

内容安全是悬在各种内容平台头上的达摩克利斯之剑， 2017年6月，《中华人民共和国网络安全法》等一批互联网领域的法律法规正式施行。明确规定不得传播有害国家社会稳定、青少年身心健康的信息。

内容的低俗化还有整改余地，可一旦内容被鉴定为涉黄、涉暴恐以及涉政治敏感，公司就会面临被永久关停并追究刑事责任的境地。

危害不由平台产生，后果却要平台承担，弹幕平台对此深有感触。面对处理大量的实时评论，依靠传统的内容审核方式存在着极大漏洞，人工审核不仅误判率高且效率低下，一些弹幕平台由于审查能力弱，涉及到某些敏感视频内容时，只能无奈关掉弹幕，完全禁止评论，严重影响用户体验。

但这也是无奈之举，对内容安全来说漏掉十条和一条是没有区别的。

一条都不能漏，同盾内容安全机制严守内容平台的生命线

相较于单纯依靠人工审查，机器识别依赖于人工智能领域最新的深度学习算法，能够对高复杂度数据形成良好的解读，并通过持续地训练，不断提高识别精度。采用深度学习的技术，不仅能帮助平台节省大量人力成本，还能帮助平台提升涉政、涉恐、涉黄文本、图片的鉴别效率。

同盾科技深耕智能风控领域多年，已经沉淀出一套完善的内容安全机制。基于领先的机器学习能力，针对文本、图像的识别和过滤，构建了多种精细化数据模型。

以文本识别来说，同盾内容安全解决方案可帮助网站识别过滤垃圾广告、恶意言论、欺诈信息等非法UGC内容。广泛应用于BBS、SNS、移动社交、博客、直播平台等有用户UGC内容的各类网站，包括注册、登陆、发帖回帖、站内信、直播弹幕等场景。

以图像识别来说，可识别色情图片、识别图片内的文字广告信息，防治垃圾信息传播以及潜在的诈骗风险。广泛应用于视频鉴黄，对直播流和视频流进行排查，实时监控直播是否符合规范；也可对社区论坛内的图片进行核查，让垃圾信息无处藏身。

事实上，利用AI技术进行内容安全审查并不是现在才出现的，市场上也有很多类似的解决方案，但是平台仍旧不断爆出各种“事故”，究其原因在于内容安全有其“同一平台，多个场景、风险混杂、动态发展”的特点，而很多产品仅仅能提供单场景、单维度的解决方案。

针对这个问题，同盾内容安全的管理机制，完全沿袭和继承了黑产防控的精神，多场景联动，对不同的行业进行针对性的机器学习，来保证模型在不同场景的适用性，为不同行业的产品提供更适合平台的解决方案。

针对文本识别的涉政模型、广告模型、低俗模型和谩骂模型，针对图像识别的鉴黄模型，针对直播弹幕场景独有的反垃圾模型等，通过多场景结合统一对抗，可反补单一场景对抗遗漏的问题。

同时，结合内容发布者的行为识别异常，使文本识别模型与行为识别模型双剑合一，依托海量QQ微信设备指纹库，精准识别藏身与文本中的广告信息，让广告发布者无从下手。

这些解决方案的实现都是基于同盾领先的深度学习技术，结合卷积神经网络、循环神经网络、深度神经网络、机器学习算法等新型技术，不断训练、提升模型从而更智能地去检测图片、文本中的异常，识别和筛选各种风险，最终为平台织就一张百无一漏的“天网”。