小学生沉迷“外国山海经”,AI魔改乱象调查_【湖北省增值税发票查询【代办电话13434104765;QQ2188982664】】

中国青少年研究中心于2025年在全国7个省份的8500余名未成年人中进行了调查,结果显示,超过六成的未成年人曾使用过AI技术。大约两成多的未成年人存在“想依靠AI而不愿自己思考”的惰性心理;两成多的未成年人更倾向于与AI聊天,而不是与真人交流;此外还有约两成多因过度使用AI而感到焦虑。 这些数据显示出,未成年人在接触AI过程中可能产生独立思考能力下降、真实社交抑制和对AI过度依赖及沉迷的问题。

近年来,中国政府高度重视未成年人网络安全保护工作,采取了一系列积极措施,不断优化和完善相关法规制度体系。2019年,国家网信办发布了《儿童个人信息网络保护规定》,特别关注儿童个人电子信息权益的保护。 修订版的未成年人保护法于2021年6月1日起正式生效,增设了“网络保护”专章,进一步加强对未成年人在网络内容上的监管,强化了个人信息的保护,并专门针对网络成瘾问题制定了相关条款。 到2024年1月1日,我国第一部专门的未成年人网络保护综合法规《未成年人网络保护条例》开始施行。此条例旨在为未成年人打造更加安全、有益的上网环境,确保他们权益得到充分保障,并促进他们的身心健康成长。

有部分人工智能工具正在探索未成年人保护模式。例如,今年8月26日,字节跳动公司的AI工具豆包正式推出了未成年人保护模式。家长通过输入密码开启此模式后,推荐视频、浏览第三方网页以及在豆包以外的智能体对话和AI创作功能将被默认关闭,而翻译和深入研究等功能仍可正常使用。

□ 本社见习记者 于天航

记者 张守坤

李女士是一位天津市河东区的小学生家长。她的孩子最近总是念叨着“通通通通撒呼啦”和“哩哩哩辣力辣”等音节,这些音节听起来像是神秘咒语。经过询问才知道,这些都是由人工智能生成的动画形象的名字。“Tung Tung Tung Sahur”,发音相似于“通通通通撒呼啦”的是名为“木棒人”的形象;而“Lirili larlla”,发音相近于“哩哩哩辣力辣”则是“仙人掌象”;再如,“Tralalerotralala”,音同于“特拉辣累喽特拉拉辣”的则被称作“耐克鞋鲨鱼”。此外,还有很多类似由AI拼接而成的形象。孩子们把这种形象统称为“外国山海经”或是“AI山海经”。

孩子们仿佛“着了魔”,口中时不时蹦出来这些词语,跟他们一起玩耍的小朋友们也如此。这种将毫不相干元素强行拼凑出的怪异形象为什么能在孩子们的圈子流行起来?李女士指出,“外国山海经”不仅造型诡异,还夹杂不少暴力、血腥词汇和内容,孩子或许不理解其中的意思,但会模仿学习,容易对他们产生负面影响。

《法治日报》记者调查发现,近期,“外国山海经”“AI山海经”等利用AI技术进行大幅或颠覆性改编的内容在网络上迅速走红,并渗透到低龄群体中。与此同时,包含血腥暴力、恶搞低俗内容的“邪典动画”,也借助AI技术重新流行起来。部分经AI改编后的内容甚至被制成商品,在电商平台销量不错。

"外国山海经"成为社交的热门话题。

今年暑假,在家休息的韩女士突然听到侄子小宇问:“姑姑,中国也有《山海经》吗?”这个问题让韩女士一时语塞——小宇书包上挂着“耐克鞋鲨鱼”挂件,房间里也摆满了各种怪异造型的玩具。这个孩子第一次接触“山海经”的概念竟是通过这些外来且由AI生成的产物。

韩女士告诉记者,小宇接触外国山海经的主要原因是班级里的流行风潮。孩子们都在讨论这个话题,他想融入集体,只能主动去了解。“山海经就是外国的东西。”小宇曾表示,“我们中国的山海经不好看。”韩女士也曾向侄子介绍过真正的《山海经》,但小宇并不感兴趣。

在韩女士看来,短视频平台的助推是导致孩子沉迷其中的重要原因之一。平时喜欢的小宇的内容大多是短视频平台频繁推荐的。受这些内容影响,小宇已经表现出明显的模仿行为,“经常模仿视频里怪异形象的动作,觉得帅,并且不时念叨里面的‘咒语’。”

韩女士说:“为了纠正孩子的认知,我们曾试图限制小宇刷短视频的时间。我们会引导他观看优质动画,并耐心讲解不良内容的危害,但收效甚微。”她补充道:“我能理解他想融入集体的心情,但我眼睁睁地看着这些内容对他产生影响,真的很着急。”

李女士发现,不少AI生成的图片与视频呈现诡异风格,并出现了诸如“杀死”、“烧死”这类暴力词汇,还包括“用刀砍人”等危险场景描绘。

记者发现,“外国山海经”等AI图片和视频制作流程非常简单。在许多常见的AI视频网站上,用户只需向AI发送基础的人物形象图片,并通过文字描述想要生成的图片内容,发出指令后即可获得相应的图片;接着将生成的图片用作关键帧,再补充描述两个关键帧之间画面的变化细节,便能快速创作出一段动态视频,还可以添加音效和背景音乐。

“邪典视频”再度盛行

广东有一位名叫梁先生的家长,他有一名三岁大的女儿。他偶尔会让女儿看一会儿手机上的视频或动画内容,虽然女儿还不会认识文字。

然而,最近他发现女儿经常被短视频平台推送动画风格的“邪典视频”。这些视频大多是卡通或3D制作,吸引孩子们观看,但背后却暗藏湖北省增值税发票查询【代办电话13434104765;QQ2188982664】着一些令人不适的画面。“例如”,梁先生举例说,“这些视频中有残害肢体、角色从高处坠落等血腥场景,甚至有‘把自己的眼珠子挖出吃掉’这类可怕的画面。”

有部分内容即使成年人看也会觉得不适,何况是3岁的孩子呢。对此,梁先生非常担忧这类视频可能会对孩子产生不利影响。他曾经试图通过投诉和点击“不喜欢”来屏蔽这些内容,但相关的视频仍然会不断地推送给孩子。

浙江省的俞女士注意到,孩子在观看《超级飞侠》、《奥特曼》等正版动画片后,平台会自动弹出一批颜色鲜艳却毫无营养的衍生视频,其中包括“奥特曼怀孕”、“小猪佩奇打骷髅”等暴力恶搞内容。

俞女士担忧地说:“我担心长期接触这类短视频会影响孩子的认知能力和专注力。现在他对篇幅稍长的绘本、书籍已经有了排斥心理,根本没耐心看完这些书。”为了减少这些不良视频对孩子的影响,俞女士不仅反复向孩子强调这类视频的危害,还尽量下载正版动画片供孩子观看。“平台审核不到位,这种恶搞经典动漫角色的视频应该被严格限制。”

有一位曾在某视频公司工作过的受访者告诉记者,她曾任职的公司也在制作这种类型的视频,并且旗下数百个视频账号都在不断发布“邪典动画”。这些视频实际上是将经典的动漫角色进行再创作。随着AI技术的普及,制作这类视频的成本大幅降低,产生的效果也非常吸引人,尤其是在儿童用户群体中。 由于平台上的未成年人流量占据了很大比例,这种视频不仅曝光度高,流量表现优秀,甚至会得到平台的支持。在这样的情况下,创作者为了吸引注意力,内容往往会呈现出一定的套路:使用动漫角色作为外包装,并加入恋爱情节、暴力冲突或者混战场面的内容。鉴于儿童的判断能力有限,他们更容易受到这些“邪典动画”的影响而相信其中的故事。

该受访者指出,平台算法促使不良内容形成了一个传播闭环——“如果孩子们有一次接触到这样的内容,那么系统就会提供更多类似的内容。”

另一种形式的“邪典视频”则是将中华优秀的文化传统进行歪曲和贬低。例如,在《红楼梦》这部作品中出现的人物开始进行所谓的“魔法战争”,而《三国演义》中的两军对峙变成了“激光大战”。这样,经典文学的核心精髓就被彻底改变了。

有专家表示,AI魔改对经典的伤害已不仅限于内容层面,它将“低俗猎奇”包装为“趣味创新”,逐步侵蚀文化传承和下一代成长的健康土壤,甚至可能在他们心中埋下“经典可随意解构”、“历史可肆意戏说”的错误认知。

AI魔改催生畸形产业链

记者注意到,在社交平台的相关帖文和短视频平台上,很多用户公开教学如何利用关键词让AI生成大尺度图片。其中部分内容涉及未成年人。比如在“×梦”等AI工具上,直接使用“未成年人”“儿童”等关键词无法生成敏感照片,但如果替换其他关键词,就能免费生成包含性暗示等元素的所谓“二次元”风格的儿童软色情图片。甚至会出现“儿童怀孕”等恶劣内容。

此外,记者经过调查发现,某些由AI篡改的内容已经开始呈现实物形态,并渐渐地渗透到真实生活中。

比如说,在电商平台以“外国山海经”为关键词进行检索,可以看到不少形象印在了衣服上或者做成盲盒、积木等产品售卖。有些商品标签直接标注了诸如“给孩子的礼物”、“儿童玩具”的字样。还有的商家表示可以制作AI生成的手办定制照片,并且展示的衣着比较暴露、动作稍显挑逗,并未作年龄区分。

“‘外国山海经’衍生的产品还会引发未成年人之间的隐形攀比。韩女士表示,这类盲盒单价低,仅为一两元,尽管价格不高,但依然让孩子之间掀起收集热潮。孩子们玩耍时若发现别人有而自己没有,会产生心理落差,甚至被排除在外。”

记者通过多家网购平台查询“山海经玩具”,发现这类盲盒产品的销量较高。其中一款包含24盒的盲盒公仔售价仅为11.99元,购买人数已经超过了2万。低廉的价格与可观的销量使其在校园中迅速流行开来。

此外,还有一些知名游戏IP与“外国山海经”合作推出了盲盒和卡牌商品。有小学教师反映称,学生们频繁向家长要钱,只是为了购买同学手中的“外国山海经”卡牌——这种卡牌已成为小学生群体中的社交象征。据学校周边文具店的店主透露,在销售情况中,“外国山海经”卡牌远超其他产品。

希望平台与相关部门加强监管,家长们也应负起责任,将不良的AI修改内容隔绝在外,确保技术能发挥正确价值。在采访中,一位家长这样表达了看法。

治理"AI魔改",平台和企业应当肩负"守门人"职责。

蔡海龙

最近,一些关于经典文学角色和动画主角的AI修改视频频繁出现在网络上,在青少年群体中引发了广泛关注。这些视频中的角色有的外形奇特且不雅观,名字也很晦涩;有的形象诡异且带有些暴力血腥的因素;更令人担忧的是,其中的一些内容很快就被商家转化为线下商品,进入了学校周边的文具店并成了热销品,甚至成为了湖北省增值税发票查询【代办电话13434104765;QQ2188982664】学生之间流行的社交方式之一。

这些荒诞且逻辑混乱的内容之所以受青少年追捧,并在学生中形成了一种亚文化现象,其原因不单单是因为审美的降低或者被动受到外界影响,更是因为他们的生理心理发展阶段特性、学业压力以及媒体环境等因素综合在一起的结果。

首先,青少年正处于自我同一性建立的关键时期,往往会质疑规则和权威。此类内容常采用猎奇和解构的方式来满足他们通过较低风险进行反抗的心理需求。特别是在学业竞争与成长规训双重压力之下,这类视频极易成为他们情绪发泄的方式之一。

其次,青少年渴望身份认同与群体归属感。分享主流视野之外的独特象征和“暗语”(),帮助他们在短时间内建立独特的亚文化圈子,并增强群体归属感。这一现象也是AI魔改内容逐步成为“社交货币”的内在原因所在。

AI魔改视频的流行也与其在短视频平台上的推荐算法密切相关。这些AI魔改作品往往节奏快速、刺激性强且认知负荷较低,非常适合青少年碎片化媒介使用习惯。一旦青少年因好奇心点击了一个奇怪视频后,算法就会迅速向他们推送更多类似内容,让他们逐渐陷入信息茧房中,不断加深对这类内容的沉浸与依赖。

从现实影响来看,AI魔改内容对青少年的危害是多维的。不仅会造成审美降级和情感钝化,还可能扭曲其道德和价值观念,构成一种利用技术优势对未成年人实施的系统性侵害,违背了“儿童利益最大化”原则。具体而言,它侵犯以下三项儿童基本权利:

第一:侵犯儿童发展权。依据《联合国儿童权利公约》,儿童有权获取促进全面发展的信息。然而,AI魔改内容作为数字糟粕,占据了他们接触优质文化资源的机会,并阻碍了其安全感、同理心与健康审美的形成。这些直接妨碍了儿童心智的发展。

第二,侵犯儿童受保护权的问题。这类荒诞且充满暴力、血腥画面的魔改作品,不仅对儿童造成直接的精神伤害,还暴露了以流量经济为核心、背后有着黑色产业链的商业剥削模式。实际上,这些行为是利用了儿童辨别能力相对较弱的特点来不当获利。

第三,儿童参与权受到扭曲。本来,儿童应该有权参与到有益文化的继承和发扬中,并在安全的数字环境中健康成长。然而,在AI魔改下,这种文化参与被扭曲为追捧“赛博垃圾”,这是一些借助人工智能生成的低质量产品。这些行为污染了孩子的学习和娱乐空间,限制了他们享受正常、有益数字化生活的可能性。

AI魔改现象是AIGC(人工智能生成内容)浪潮中,对未成年人大人权利保护的一大挑战。为了有效管理这一现象,网络平台和相关企业应尽到“守门人”的法定职责。

网络平台是AI魔改内容传播与变现的关键场域,必须担当起“防火墙”的责任。平台应履行算法和推荐系统的向善职责,避免以流量为主导向未成年人推送低俗、暴力内容,并确保算法符合“儿童利益最大化”原则;要落实内容和模型的清污任务,主动运用技术手段清理存量“赛博垃圾”,同时从源头严控AIGC生成不良信息。还需要强化“青少年模式”的净化功能,确保内容池纯净且适合年龄,彻底屏蔽AI魔改类视频。此外还需承担商业链条防护的责任,禁止相关账号利用此类内容挂载商品或进行带货,并同步屏蔽关键词并清理违规商家。唯有如此,才能守护未成年人的网络安全与身心健康。

相关企业作为内容与产品的源头,必须承担起守法与自律的责任。在生产与设计环节,应当建立儿童保护机制,并主动拒绝生产和设计怪诞、低俗及侵权化的产品;在线下销售环节应履行进货查验义务,避免有害周边进入校园市场;而在线上销售环节,则需平台落实自清责任,依法及时下架违规商品,否则将面临处罚。

要从根本上治理AI魔改问题,急需建立一个由政府监管、企业主责、家庭监护、学校教育共同组成的“四位一体”的社会共治体系。政府部门应承担起监管者的角色并实施执法职责;网信部门负责统筹网络保护,确保平台责任的落实到位;市场监管部门需清理线上线下有害周边产业链;新闻出版与广电部门通过疏堵结合策略推动优质内容的生产与传播。 企业和平台作为主要责任人必须从被动应对转变为主动防御。利用技术手段清理不良内容、切断商业变现链条,并持续优化未成年人模式,为未成年人提供纯净的网络环境。 家庭是未成年人保护的第一道防线。家长应切实履行监护职责,通过陪伴、筛选内容以及善用工具等方法培养孩子的批判性思维与审美能力。学校作为媒介素养教育的重要阵地,需开设网络素养相关课程并发挥家校协同的作用。 只有政府、企业、家庭和学校的四方协同配合,并环环相扣、各尽其责,才能真正织密未成年人保护网,将AI魔改这类“精神毒品”彻底隔绝在他们的成长环境中。

(注:作者为首都师范大学教育政策与法律研究院副院长)