净化青少年网络环境 人工智能有望成为“防火墙”

2018年12月11日18:18  来源:中国新闻网
 
原标题:净化青少年网络环境 人工智能有望成为“防火墙”

净化青少年网络环境人工智能有望成为“防火墙”

  青少年网络环境问题正在引起各界高度关注。日前,中国教育电视台《中国教育报道》栏目播出《共建清朗网络空间,守护孩子健康成长》专题节目。节目指出,目前青少年网络环境情况不容乐观,大量超年龄、过度娱乐、色情、暴力等内容充斥网络,对青少年健康成长造成了巨大的负面影响。

  为此,各界正在积极行动,由共青团中央未来网、作业帮等机构和企业发起的全国首份《共建青少年信息安全清朗环境倡议》也因此应运而生。与此同时,不少企业还开始以人工智能技术构筑上网防火墙,营造健康清朗的青少年网络环境。

  青少年网络环境不容忽视

  数据显示,目前大约70%的青少年都是互联网使用者。但广大青少年使用互联网可谓“无限制”、“零门槛”。《中国教育报道》节目指出,大量不良网络信息和过度商业化、成人化等不加区分的网络内容,也没有和青少年用户进行分割,给青少年的健康成长带来了巨大的风险。

  近期,全国“扫黄打非办”开展的“护苗2018”专项行动,查处了一批“邪典”视频、低俗游戏、暴力色情信息等不良网络内容。同期,国家网信办也加大了对网络环境的净化,处理了近一万个问题自媒体账号。这些账号存在数据造假、篡改历史、抄袭洗稿、造谣、传播“负能量”等种种问题,在网络中产生的不良影响难以估量。

  教育部中国教师发展基金会原秘书长、中国教育学会监事长杨春茂表示,进入信息化时代,青少年已经成为“网络时代的原住民”。如果生活在一个乌烟瘴气的网络环境中,青少年的道德修养和审美情趣都会偏离正确的轨道,不但有悖教育初衷,也会对青少年的成长造成侵害。

  《中国教育报道》在节目中指出,净化青少年网络环境已刻不容缓。近期,共青团中央未来网、中国互联网协会调解中心、中国政法大学传播法研究中心、作业帮等权威机构和企业联合发起了《共建青少年信息安全清朗环境倡议》,呼吁各界共同努力,携手共建青少年成长所需的健康网络和信息环境。《中国教育报道》节目认为,此举将进一步引发各界对青少年网络环境问题的重视,有望联合更多社会力量为净化青少年网络做出贡献。

  人工智能技术望成防火墙

  《中国教育报道》在节目中还介绍,目前有不少互联网企业,正在利用人工智能等前沿技术,尝试为青少年营造健康清朗的网络环境。节目还介绍了作业帮的成功能经验,认为此举有望成为净化青少年网络环境的新趋势。

  从目前我国人工智能、大数据等前沿技术的发展情况看,这些技术已经可以运用于信息的生产、流动、交互、扩散等各个环节,能有效地识别、发现、过滤、拦截不法网络行为和不良网络信息,并对用户做出预警。

  共青团中央网络影视中心党委委员、未来网总编辑万兴亚表示,人工智能已经成为未来关键技术,目前我国在人工智能发展方面积极探索,研究水平已处于世界先进行列。人工智能应用前景广阔,完全可以应用于网络安全等诸多领域,将有效拦截各类不良信息,确保净化青少年网络环境。

  事实上,不少企业、社会机构已经开始了相关技术尝试。例如,中国移动等运营商企业,利用大数据等技术不断加强用户实名制用户审核和管理,并及时拦截不良信息;腾讯等互联网企业,利用人脸识别技术,识别青少年用户,严格执行实名制,避免青少年网络沉迷;作业帮利用人工智能等前沿技术,构建了青少年信息安全防护平台“寸功”,能在不良信息的源头建立起网络“防火墙”,构建了完整的网络信息安全体系,帮青少年抵御不良信息,免受其侵扰和影响。

  作业帮副总裁苏静介绍,“寸功”平台拥有“AI赋能信息审核”、“全量数据监测和预警”、“数据分析适当干预”、“综合防护”四大功能,可以根据预先设定好的拦截内容和后期反馈,对全网的图文和视频内容进行精准识别,一旦发现问题信息,除了能及时清理和过滤外,还能根据信息的传播途径,溯源追踪到信息源头,对信息发布者进行分析,如果发现信息发布者属于主动、恶意发布不良信息的,将直接采用技术手段予以封杀,避免信息源继续输出和传播。

  苏静还透露,目前作业帮的这一青少年网络保护系统,正在从以“识别拦截”为主的1.0版本向“主动发现并预警”的2.0版本过度。她介绍,以“寸功”的人工智能技术为基础,配合作业帮多年来累积的用户大数据,系统可以通过对用户行为建模,并比照标准数据组,来对用户未来行为作出预测。一旦用户有接触不良信息或其他负面行为的可能,系统将发出预警,并提示相关方进行干预。

(责编:杨虞波罗、杨波)