互联网拥有开放、共享、透明的特性，但互联网也是一个黑洞，各类信息混杂其中，那些庸俗、低俗、有害的信息和价值观在互联网环境中极易生存和扩散。这样的内容不仅在冲击社会伦理道德底线，也在持续突破法律底线，甚至不断危害儿童和青少年的健康成长。
随着互联网的迅速普及，电脑、手机、网络已经成为孩子生活中不可缺少的一部分。孩子们触网时间越来越提前，触网范围越来越大，拥有电子产品越来越多。根据中国儿童少年基金会2018年10月发布的《新时代儿童及家庭网络素养调研报告》显示，儿童首次接触互联网的年龄普遍集中在6-10岁，占比达61.4%，首次触网年龄在不断降低。另一个现实情况是，互联网工具已全面融合进孩子的娱乐、生活、学习之中。老师通过社交平台布置课余作业，与家长交流孩子在校表现等越来越普遍，更不必说网络世界的知识资源是开拓儿童和青少年视野的最佳平台。对于还处在价值观形塑期间，是非分辨能力、自我控制能力不强的儿童和青少年群体来说，各类低俗有害信息违法传播的风险更大。
尽管监管措施不断推出以及监管力量不断加强，平台在治理此类有害信息方面做出众多努力，互联网内容环境有了很大改善。10月26日，北京扫黄打非部门对存在大量危害未成年人身心健康的低俗色情互动信息的“互动作业”APP违法违规经营问题进行查处。同一天，全国“扫黄打非”办公室和国家新闻出版署就微信公众号传播淫秽色情和低俗网络小说问题约谈了腾讯公司，责令其立即下架违背社会主义核心价值观的低俗、庸俗、媚俗网络小说，坚决清理传播淫秽色情等有害内容的微信公众号。
但是一些互联网应用的特性决定了它很容易成为淫秽色情低俗等有害信息传播的温床。比如，低门槛的内容发布、尚存漏洞的资质审核、监管乏力的留言评论区等。而且面对监管，淫秽色情等有害信息的传播方式变得愈发隐蔽，审核难度急剧上升。这些问题给监管和内容平台的治理都提出了更高的要求。
伴随着互联网上社交媒体、直播、短视频的发展，催生了大量的人工鉴黄师，仅凭一双肉眼鉴别色情内容。听起来像是“福利”，但每天网络上光上传的图片就超过10亿张，发文数量超过5亿条，色情、暴力、低俗等内容充斥其中，单纯依靠人工的审核，在效率、成本和准确性方面都难以得到保障。于是乎，一批人工智能公司应时而生，利用AI“快、狠、准”识别涉黄、暴恐、低俗等有害内容。以图普科技的智能审核机器人为例，日均处理图像数据达10亿次，准确度高达 99.5%，可以帮助节省90%以上的人力。
色情、低俗、暴力等有害信息就像是互联网的一大毒瘤，存在于网络的各种平台中。相关平台需要加强平台治理能力，利用图像识别等先进技术，通过强化检查监控制度，加强内容发布和资质审核门槛等多重举措，为青少年健康成长营造洁净的氛围。
|
