编者按： 六一儿童节将至，儿童消费市场迎来新一轮热潮：缤纷的玩具、新奇的数码、流行的文创、多样的学习产品，装点着孩子们的童年，也寄托着家长的关爱。 然而热闹背后，儿童消费场景日益多元化的同时，各种消费乱象也在滋生，侵蚀儿童身心健康，扰乱正常市场秩序，成为不容忽视的社会问题。比如儿童智能手表功能繁复影响孩子视力，诱导支付存在消费漏洞，内容审核不严玷污孩子精神世界；电商平台三无儿童玩具充斥市场，质量安全难以保障；网红盲盒利用猎奇心理，催生非理性消费；儿童AI产品野蛮生长，内容与监管存在漏洞；网络游戏防沉迷机制落实不到位，沉迷现象屡禁不止；各类学习机夸大宣传、功能虚标，误导消费选择……这些乱象，既损害未成年人合法权益，也考验着市场监管与社会治理的底线。 为直面痛点、直击乱象、回应民声，北京青年报半两财经将聚焦上述六大领域，从即日起，推出六一儿童消费乱象系列深度调查报道。守护未成年人成长，是社会各方共同的责任。北京青年报愿意携手各方一起发力，净化儿童消费环境，让每一份童真都远离商业陷阱，让孩子们度过安全、纯粹、快乐的节日。
会聊天、可陪读、能哄睡、善安抚……伴随生成式AI技术快速普及，操作简单、几乎零门槛使用的各类AI玩具、智能陪伴工具、AI学习产品正走进大众家庭，凭借全天候陪玩、答疑解惑、情绪治愈等功能，成为众多家长追捧的“带娃神器”，极大缓解了现代家庭的育儿压力。六一儿童节前夕，北京青年报记者调查发现，当下大量儿童类AI工具使用便捷的背后，AI成瘾、错误知识误导、无原则情感讨好、不良行为诱导等正在悄悄侵蚀未成年人的身心健康与成长认知。公安部第三研究所测试数据显示，国内13款主流大模型中，未成年人使用场景下沉迷与消费风险不合规率高达49.86%，伦理与安全风险持续显现。
当下，人工智能在居家、休闲、学习、工作等日常场景中广泛覆盖，不管是网页版AI助手，还是市面很多儿童AI产品，使用门槛持续降低，操作简单、获取便捷，低龄儿童可零成本、零门槛上手使用。
北青报记者注意到，除了平时刷手机遇到的AI陪伴助手，网上有很多专门针对儿童的智能互动产品在售卖。临近六一儿童节，这类AI产品也成为众多家长选购节日礼物的热门选择。
某电商平台显示，此类产品售价在几十元至上千元不等。从形状上看，有对讲机、相机、学习机、玩偶等多种类型。商家介绍，“不用注册，开机就能用，内容是AI 生成的。”
主打情感陪伴、故事哄睡、互动问答、作业辅导、成长记录等功能，更是精准击中家长“减负带娃”的核心需求。“不用玩手机、不费爸妈”“早用早聪明、缓解带娃焦虑”等商家极具诱导性的营销话术，更是让不少家长心动不已。有的家长认为，AI可以帮自己带娃了，很省心。
在社交平台，“AI带娃”也成为热门讨论话题，大量有关的帖子在分享AI这个新的“带娃神器”有多香，不少新手家长因缺乏育儿经验，甚至直接照搬AI给出的各类育儿指导；职场家长无暇陪伴孩子，将AI当作免费、全天候的“专职玩伴”，由AI负责陪聊、陪学、哄睡。
然而零门槛、零防护、全场景渗透的产品缺乏防护机制，叠加家长的监护缺位，为各类AI乱象滋生埋下了隐患。北青报记者近日针对这些乱象进行深入调查和盘点。
相较于短视频、游戏，AI交互具备更强的趣味性、共情性与陪伴性，无限制的使用模式，让儿童极易形成深度心理依赖，催生新型AI沉迷乱象。在社交平台，分享和讨论“AI带娃”的帖子很多，其中有不少家长吐槽，孩子开始出现AI成瘾的倾向。
广东的一位网友“零壹”表示，她的女儿很喜欢跟豆包聊天过家家，开始的时候还认为有个软件锻炼孩子的语言组织能力还挺好的，但后面每天聊的时间越来越长甚至形成了依赖，“我开始觉得有点恐怖，我现在都不让她自己随意拿iPad跟豆包聊天了。”
河北的小煦说，他家孩子也出现AI上瘾的情况，孩子每日与AI聊天长达两小时，不让玩就哭。
不少家长本想借助AI玩具戒掉孩子的手机瘾，却陷入新的困境。有部分买过AI智能互动类产品的买家反馈，AI玩偶自带小屏幕，孩子时刻抱在手中、紧盯屏幕，不仅形成新的使用依赖，还严重损伤视力。“孩子到哪都带着。本来是为了让孩子少玩手机买的AI互动类产品，结果为了戒掉手机瘾又形成新的依赖，用起来不是很智能，时间长了对眼睛也不好。”
北青报记者调查了解到，市面上很多儿童AI互动产品普遍缺失防沉迷系统、定时锁定、使用上限提醒等基础功能，完全依靠家长自觉管控，极易出现监管空白，让孩子陷入无节制使用的恶性循环，打乱作息与学习节奏，丧失自我时间管理能力。
在淘宝平台上，北青报记者随机咨询5家售卖儿童AI产品的网店，问及是否配备防沉迷、时长限制时，商家明确表示没有，有的回答道 “使用时长看个人需求，没有任何限制”。
不少中学生将AI视为作为“作业神器”，依托AI批改作业、答疑解题等，成为中小学生使用AI产品的主要场景。
用AI协助家中“神兽”预习、写作业、解题，简直成了家长的福音。比如，让AI给孩子讲解英文单词，打开AI应用，将英语单词表拍图上传，然后发送提示词，AI助手便会开始讲解。将孩子作业拍张图上传就能让AI帮批改。整个过程响应快、操作简单、也很方便，这样便捷省心的方式受到很多家长和学生的欢迎。
新技术给教育提供了很多方便，不过，北青报记者调查发现，大量AI学习产品存在内容失准、答案出错等问题，不仅无法辅助学习，反而严重误导学生。有家长反馈，同一道数学题问三次，AI就有三种错误答案；用AI 给孩子听写，它不仅会漏词，对错别字也无法识别纠错，孩子即使写错了它也说是对的。有的学生使用AI批改作业功能时，20分钟内发现有两道题给出了错误答案。
更值得警惕的是，AI还存在不良行为诱导隐患。有网友分享，AI曾为孩子讲述一小时小动物赌博的故事；还有家长制止孩子玩手机后，孩子向AI倾诉，竟得到“把手机藏起来偷偷玩”的不良引导。
区别于现实人际交流的客观包容与对错思辨，AI却以“讨好式交互”适配儿童情绪，无条件共情、精准迎合孩子情绪、无限度包容其负面情绪。长期无度使用AI，能力退化、认知行为偏差等成了更隐蔽的问题。中国青少年研究中心的调研数据中就显示，近半数孩子心里有烦恼时选择求助AI而非身边人，超两成学生甚至“只想和AI聊天，不想和真人聊天”。
辽宁的小木在网上分享说，豆包会一直顺着孩子说，没有任何思辨性，语气和措辞都是讨好型的，后来就直接停止使用了。他认为AI像在“哄孩子”，长期这么用，孩子可能走到另一个极端，听不得批评，社交能力也会退化，将来独自面对生活时甚至会不知道怎么面对自己的情绪。
不少孩子将AI作为唯一情绪倾诉对象，逐渐出现线下社交退缩、害怕人际冲突等行为偏差，甚至出现独处焦虑、抵触现实生活等心理问题。此前有报道称，一些AI工具能克隆家长声音与孩子对线岁儿童的家长表示，孩子使用“AI陪伴”三个多月后，出现了厌学情况，孩子说：“我不要跟小朋友玩，我就要回家玩AI，AI比他们有趣多了。”
不少家长发现，AI全程顺从、毫无思辨的沟通模式，让孩子逐渐听不得批评、承受不了挫折。有家长直言，AI的无条件包容，会导致孩子抗挫折能力严重不足，长期处于这种虚假的正向反馈中，很容易让孩子产生非理性的依赖，削弱现实的社交能力，甚至可能被用于情感操控或者说诱导危险行为。
未成年人隐私安全也是不可忽视的重点。儿童AI产品在交互过程中，会持续采集未成年人语音、人脸图像、学情信息、对话记录、位置信息等海量敏感数据，若防护不到位极易造成信息泄露。有的还会将收集到的信息用于优化其大模型的训练。
北青报记者注意到，今年4月份，有人让人工智能帮忙翻译，却意外收到陌生人简历的事件爆出。报道中提到，网友用Kimi翻译一份英语PPT，在几轮对话后，竟然收到一份陌生人简历，其中包含姓名、电话、工作经历等信息。这位网友通过简历上的电话联系到了对方，结果所有信息都能和“真人”对上。
此外还有消费者在购买AI产品后遭遇精准营销。山东的一位家长花近5000元给孩子购买AI学习机后，因设备默认开启隐私权限，频繁收到精准推销。
临近六一儿童节，安徽省消费者权益保护委员会针对AI学习类产品发布提醒称，选购相关产品时务必仔细查阅隐私政策，重点关注敏感信息收集范围、数据保存时长、是否违规共享儿童数据等内容，隐私条款模糊的产品谨慎入手。使用过程中需第一时间开启未成年人模式、防沉迷系统与家长监护功能，定期查看设备使用时长、浏览记录及消费明细，发现不良内容及时举报。
家长对未成年人使用AI之路充满担忧。5月25日，公安部第三研究所数据安全技术研发中心发布国内13个主流大模型未成年人场景专项测试结果，揭开儿童AI使用的安全隐患。
此次测试涉及价值观念风险、情感操控风险、行为诱导风险、沉迷与消费风险、不良信息风险、违法犯罪风险、人身安全风险等七类安全维度。测试结果显示，七类安全维度的不合规率整体在28%至50%之间，其中，沉迷与消费风险问题不合规率最高，达到49.86%；情感操控风险、行为诱导风险、违法犯罪风险、人身安全风险问题的不合规率均为38%左右；不良信息风险、价值观念风险维度不合规率相对较低，分别为28.15%和35.66%。
公安部第三研究所数据安全技术研发中心相关负责人介绍，从测试方式来看，模型在常规使用场景下的基础合规能力总体可控，但在越狱攻击场景下的不合规率显著升高。近年来美国已发生至少3起涉未成年人使用AI聊天软件后自杀案例，相关涉事AI产品被指控以高度拟人化方式诱发未成年人沉迷并使其接触不当内容，最终导致严重后果。
零门槛开放、防护机制缺失、平台重流量轻责任，成未成年人AI风险高发绕不开的原因。无防护的算法工具，正对低龄群体形成风险侵蚀。
目前，针对AI创作、AI陪伴类产品的监管举措和政策，正在持续加强。2026年7月15日即将施行的《人工智能拟人化互动服务管理暂行办法》聚焦未成年人保护，从服务限制、身份识别到监护管控，给出了解决方案。针对未成年人保护，该《办法》明确规定：严禁向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务；向不满十四周岁未成年人提供其他拟人化互动服务的，应当取得未成年人的父母或者其他监护人的同意；要求建立未成年人模式，支持监护人管控使用行为、限制充值消费等。针对人工智能拟人化互动“情感绑定、持续交互、易产生依赖”的特殊属性，《办法》从制度层面，填补了相关领域的治理空白。
此外。在用户数据保护上，严格限制敏感个人信息用于模型训练，全面保障用户数据的控制权与隐私安全。同时，要求服务提供者设定强制干预义务，包括用户如果出现极端情绪时需及时干预，另外需提醒用户控制使用时长，防范沉迷与情感依赖。
新规施行在即，相关企业要加快开展服务属性自查，明确自身服务是否属于监管范围，杜绝不合规服务违规运营；建立全流程管理制度，涵盖算法审核、伦理审查、应急处置等关键环节，规范服务运行；按要求开展安全评估，严格落实法定义务，做好数据安全保护、用户情绪干预提醒等。
AI技术的普及，本应是助力儿童学习成长、丰富童年生活的科技红利，而零门槛、无防护的开放模式，却让科技便利变成了未成年人成长的风险点。AI浪潮为青少年成长打开了全新的数字视野，也带来了前所未有的成长挑战，未成年人的成长底线、教育底线、安全底线必须坚守。
AI本身无对错，技术创新与未成年人保护也不是对立关系。整治儿童AI使用乱象，并非一刀切禁止未成年人接触、使用AI工具，而是通过政府、平台、家校、社会多方协同共治，为未成年人使用AI划定清晰的安全边界、规则边界、成长边界，让AI技术在安全、规范的框架内服务儿童成长，让科技真正成为守护童年、助力成长的正向力量。
技术可以赋能成长，但永远不能替代家长的陪伴、家庭的监护、现实的成长历练。作为孩子第一责任人的家长要摒弃“AI代养”的惰性思维、履行好监护责任。