不能让AI助长“邪典视频”野蛮生长|新京报快评
本篇文章给大家谈谈
AI“魔改”经典IP,引起舆论关注图/IC photo随着AI技术的普及,“邪典视频”卷土重来了?“有些内容成年人看了都觉得不适,更何况3岁的孩子”据《法治日报》报道,广东的梁先生发现3岁女儿观看的视频中,存在残害肢体、角色从高处坠落等血腥场景,甚至有“把自己的眼珠子挖出吃掉”的可怕画面。
这些AI魔改动漫,本质就是换汤不换药的“邪典视频”它们往往顶着孩子熟悉的角色IP,塞满暴力冲突、低俗恋爱情节,专门盯着未成年人下手部分“邪典视频”还被制作成商品,在电商平台销量不俗近年来,有关部门通过关停违规账号、下架非法应用程序、处罚传播有害信息的平台等举措,相关治理工作取得显著成效,把“邪典视频”这类“精神垃圾”压了下去。
然而,AI技术的大规模应用,显著降低了“邪典视频”的制作成本使用生成式AI,制作者可以很快根据人物原型生成自己想要的画面,甚至不需要掌握太多动画制作基础令人忧心的,还有平台算法的推波助澜这类视频因节奏快、刺激强、认知负荷低,成为流量“黑马”。
一旦孩子偶然点击这些视频,算法便会构建“信息茧房”,推送更多同类内容,把未成年人困在“精准喂毒”的循环里“邪典视频”无疑对未成年人健康成长构成多重威胁其一是宣传色情、暴力,让未成年人在价值观成型期接触危险信息。
有家长发现,AI生成的图片和视频不乏“杀死”“烧死”等暴力词汇,以及“用刀砍人”等危险动作描述低龄儿童根本分不清虚拟和现实,他们很可能会把暴力当“酷”,把危险当“游戏”,模仿着做出伤害自己或他人的行为,后果不堪设想。
其二是歪曲经典历史人物言行,让未成年人形成扭曲的历史观与文化认知有孩子接触AI魔改的“外国山海经”以后,竟认定“山海经就是国外的,中国的山海经一点儿也不好看”,对真正的传统文化典籍毫无兴趣更有甚者,AI魔改将《红楼梦》变成“魔法战争”,把《三国演义》改编为“激光大战”,颠覆经典的核心内涵,侵蚀文化传承的根脉。
“邪典视频”更深层的伤害,还是针对未成年人的思维与价值观的“投毒”低龄儿童缺乏辨别能力,长期接触暴力画面可能会导致儿童变得冷漠麻木,对其健康成长带来不利影响而这类视频碎片化、强刺激的特点,还会让孩子的注意力难以集中,导致专注力与审美能力退化。
实际上,有的孩子受“邪典视频”影响,已经无法耐心看完篇幅稍长的绘本、书籍,严重影响其认知发展面对AI技术催生的“邪典视频”回潮,有关部门应跟上技术迭代的速度,加快完善内容监管规则,明确生成式AI的责任边界,严厉打击“邪典视频”的制作、传播及相关衍生品销售产业链。
平台作为内容传播的关键环节,必须摒弃“流量至上”思维,升级算法审核机制,将“儿童利益最大化”作为核心原则,强化“青少年模式”的过滤功能,主动清理存量不良内容,从源头阻断传播渠道比如,近日抖音就加大对AI低俗动画的打击力度,全面禁言405个违规账号,防范不良内容侵犯未成年人身心健康。
家庭与学校更要筑牢防线家长应加强对孩子网络使用的陪伴与引导,合理限制短视频观看时间,多推荐正版优质动画、传统文化内容;学校也有责任教育学生辨别不良内容的特征与危害,培养批判性思维和健康的媒介使用习惯AI技术本应是赋能成长的工具,而非炮制有害内容的帮凶。
遏制“邪典视频”卷土重来,需要全社会协同发力,既堵住技术滥用的漏洞,又用优质内容填充未成年人的网络空间,让他们在清朗的网络环境中汲取成长力量撰稿 / 南木(媒体人)编辑 / 柯锐校对 / 刘军




