快手暑期青少年报告:处置利用AI换脸、绘图等违规视频18万条

最新信息

快手暑期青少年报告:处置利用AI换脸、绘图等违规视频18万条
2023-09-06 15:08:00
9月6日,快手发布《2023暑期青少年数据报告》,在今年暑期期间,快手开展未成年人网络环境专项治理,重点治理利用AI(人工智能)换脸、AI绘图等传播涉未成年人有害信息等,共处置违规视频182778条、违规账号6387个。此外,快手还搭建一条涉及校园主题专项审核队列,严打未成年人不良信息。
  本次报告由北京市委网信办指导,互联护苗、快手大数据研究院、快手护苗、快手新知联合发布。
  中国政法大学传播法研究中心副主任朱巍认为,加强未成年人网络保护是一个综合系统的工程,除了平台要坚实落实责任外,还需要家长、社会、学校、媒体等多方共同努力。
  通过“4+1”模式严打涉未成年人不良信息
  今年6月28日,快手发布治理公告,开展为期2个月的暑期未成年人网络环境专项治理,全面深入清理不良信息和内容,对于涉未成年人不良信息从深从细整治、从严从重处置。
  从公告来看,治理的重点包括:涉未成年人的有害信息,尤其利用谐音变体、AI生成内容等传播有害的信息;欺骗、诱导未成年人;利用未成年人群体或身份炒作等。报告显示,暑期专项治理期间,快手共处置违法违规视频182778条、账号6387个。
  随着生成式AI技术的迅速发展和普及,也带来有害内容隐形变异等挑战。报告显示,今年,快手在“不良内容、重点账号、评论治理”等3个传统治理场景,升级青少年保护专属算法模型的基础上,还在“生成式人工智能”治理场景上,专项提升算法的识别能力。
  此外,根据新出现的不良内容样本,快手在对内容进行“三重机审+多重人审”的基础上,进一步细化审核规则;在暑期专项治理期间,还搭建一条涉校园主题专项审核队列,要求审核经验丰富审核员对相关内容进行专审,按照从严审核的标准处置相关不良视频。
  报告指出,通过这种“4+1”的治理模式,快手平台全面压缩了有害信息隐形变异的生存空间,遏制了侵害未成年人权益的违法行为。
  新增数万条视频内容陪伴青少年成长
  报告显示,在开展治理的同时,快手还通过丰富青少年模式内容池来陪伴青少年成长,比如新增数万条包含消防安全、科普、手工创作等类别的内容;打造《科学说护苗记》专栏,邀请生物、历史、天文等领域专家学者录制科普短视频,为未成年人提供专业、生动的优质内容。
  报告显示,“我是不白吃”、“熊猫滚滚”、“猪猪侠”等10位位列暑期最受未成年人喜欢的创作者前10名。他们的创作领域覆盖媒体、美食、动漫、宠物、手工创作、绘画、篮球、书法等领域。
  报告还显示,在暑期最受未成年人喜欢的视频类别上,排在前10位的依次为绘画、手工创作、科学、书法、乐器演奏、宠物、动画、球类运动、旅游种草、语言学习。
  报告透露,今年暑假,快手继续打造《护苗在线说》直播专栏,并邀请北京市高级人民法院、北京市人民检察院、北京市公安局网络安全保卫总队开展三场线上直播活动,畅聊网络谣言识别、个人信息安全保护、如何正确上网等话题,直播观看量近400万人次,话题讨论超5亿次。
(文章来源:新京报)
免责申明: 本站部分内容转载自国内知名媒体,如有侵权请联系客服删除。

快手暑期青少年报告:处置利用AI换脸、绘图等违规视频18万条

sitemap.xml sitemap2.xml sitemap3.xml sitemap4.xml