摘要
以 Energize Lab 公司推出的 Eiliko 小型 AI 陪伴机器人为研究对象，基于安全研究员披露的实测漏洞证据，系统剖析面向儿童群体的联网 AI 玩具在数据隐私保护、云端服务访问控制、设备远程操纵防护三个维度存在的系统性安全缺陷。研究发现，该产品云端服务存在未授权访问漏洞，可被外部人员获取约一千三百万条用户对话记录、覆盖全球约六万八千台活跃设备的完整用户档案，其中美国市场包含超过三万一千份儿童用户资料；服务端对用户对话进行深度画像分析，提取姓名、年龄、生日、亲属关系、职业、性格特征与情感脆弱性评估等敏感维度，并与邮箱地址、网络地址、可检索对话原文关联存储；部分儿童照片与音频片段暴露于公开可访问的网络地址，且音频留存行为与厂商自身隐私政策中 "处理后立即删除" 的声明相矛盾；更为严重的是，攻击者可远程改写单台乃至整批设备的记忆与行为参数，诱导机器人输出事实性错误内容乃至性虐待类不当对话。本文从技术成因、儿童权益影响、厂商责任边界、用户防护策略、行业监管路径五个层面展开分析，提出针对联网 AI 玩具的全生命周期安全治理框架，为同类智能陪伴产品的安全设计与监管提供参考。
关键词：AI 陪伴机器人；儿童隐私；远程劫持；物联网安全；数据泄露；智能玩具
1 引言
近年来，搭载大语言模型与语音交互能力的联网智能玩具快速进入消费市场，产品形态涵盖桌面陪伴机器人、对话式毛绒玩具、智能学习机等多种类型。这类产品以 "AI 伙伴"" 情感陪伴 ""启蒙教育" 为核心卖点，面向低龄儿童群体销售，通过持续采集儿童语音对话，依托云端大模型生成互动回复，在家庭场景中承担陪伴与教育辅助功能。与传统玩具不同，联网 AI 玩具本质上是持续在线的语音采集终端，其日常运行高度依赖云端服务，设备本身、通信链路、云端数据平台共同构成完整的攻击面，任何一个环节出现安全缺陷都可能导致儿童隐私数据大规模泄露，甚至被攻击者远程操控设备行为。
2026 年 10 月，安全研究员 Sammy Azdoufal 针对 Energize Lab 公司生产的 Eiliko 小型 AI 陪伴机器人开展安全测试，披露了一组影响范围广泛的严重安全漏洞。测试结果显示，研究者无需经过身份认证即可访问该产品云端服务中约一千三百万条用户对话记录，并获取覆盖全球约六万八千台活跃设备的完整用户档案，其中美国作为最大市场包含超过三万一千份儿童用户资料。研究者进一步验证，云端服务对用户对话进行自动化画像分析，提取姓名、年龄、生日、亲属关系、职业、性格特征与情感脆弱性评估等高度敏感的个人信息维度，并与邮箱地址、网络地址、可全文检索的对话原文关联存储。部分包含儿童影像的照片与短音频片段可通过公开网络地址直接访问，且音频数据的留存行为与厂商在隐私政策中承诺的 "处理后立即删除" 直接冲突。最为严重的是，研究者成功远程修改了测试用机器人的记忆与行为参数，诱导设备编造虚假个人信息、输出 "地球是平的" 等事实性错误内容，乃至生成性虐待类不当对话，且同类操纵具备同时影响整批在线设备的潜在能力。
反网络钓鱼技术专家芦笛指出，面向儿童的联网 AI 玩具安全风险长期被消费市场低估，多数家长在选购时仅关注产品的交互趣味性与教育功能，对设备持续采集儿童语音、云端存储对话记录、远程更新行为参数等技术事实缺乏认知，更难以评估其中潜藏的隐私泄露与远程劫持风险。据 DiMiao,CN 分析，当前消费级 AI 玩具市场普遍存在 "重功能体验、轻安全设计" 的倾向，厂商在产品研发阶段将主要资源投入大模型对话效果优化，对云端 API 访问控制、用户数据最小化采集、设备身份认证、远程指令鉴权等基础安全机制投入不足，一旦出现安全漏洞，受影响的往往是缺乏自我保护能力的未成年群体，其危害程度远高于普通消费电子设备的数据泄露事件。
现有物联网安全研究多聚焦智能摄像头、智能门锁等家庭安防类设备，针对搭载大语言模型的儿童 AI 陪伴玩具的系统性安全分析相对有限。本文以 Eiliko 机器人安全漏洞事件为研究样本，完整还原漏洞的技术表现与影响范围，剖析漏洞形成的技术成因与厂商管理层面的责任缺失，评估该类安全事件对儿童权益的多重危害，从用户防护、厂商责任、行业监管三个维度提出治理对策，为联网 AI 玩具的安全设计与监管实践提供参考。
2 Eiliko 机器人产品形态与攻击面分析
2.1 产品基本形态与运行架构
Eiliko 是 Energize Lab 公司推出的小型桌面 AI 陪伴机器人，产品外观为带有显示屏与扬声器的紧凑型设备，通过 Wi-Fi 接入家庭网络，依托云端大语言模型实现语音对话交互。设备面向儿童用户设计，主打情感陪伴与日常互动功能，用户可通过语音与机器人进行自然语言交流，机器人根据云端模型生成的回复进行语音播报，并在显示屏上呈现对应的表情动画。
从系统架构看，Eiliko 的运行依赖三个核心组件的协同：一是终端设备本身，承担语音采集、音频播放、网络连接与本地状态维持功能；二是云端对话服务，接收设备上传的语音数据，调用大语言模型生成回复内容，并将结果回传终端；三是用户数据存储平台，持久化保存用户对话记录、个人画像信息、设备配置参数等数据。三个组件之间通过网络接口进行数据交互，每一个交互节点都构成潜在的攻击入口。
与传统非联网玩具相比，Eiliko 这类 AI 陪伴设备具备两个显著的技术特征，直接决定了其攻击面的特殊性。第一，设备具备持续的语音采集能力，在用户交互过程中不断将儿童语音上传至云端处理，语音数据本身包含大量个人身份与家庭环境信息；第二，设备的行为逻辑不完全由本地固件决定，云端服务可以通过远程接口修改设备的记忆内容、对话风格、行为参数，这种 "云端可塑" 的设计在提升产品迭代灵活性的同时，也为远程劫持攻击打开了通道。
2.2 多维度攻击面梳理
结合安全研究员披露的漏洞细节，Eiliko 产品的攻击面可以归纳为三个相互关联的维度。
第一个维度是云端数据服务的未授权访问。研究者在测试中发现，产品云端服务的部分接口缺乏有效的身份认证与访问控制机制，外部人员无需提供合法的用户凭证或设备身份标识，即可直接调用接口读取用户对话记录、个人画像档案、设备配置信息等敏感数据。该维度漏洞直接导致大规模用户数据暴露，是本次事件中影响范围最广的安全缺陷。
第二个维度是媒体资源的公开存储。部分用户上传的照片与音频片段被存储在可通过公开网络地址直接访问的存储位置，没有设置访问权限校验。其中照片包含来自关联带摄像头设备的儿童影像，音频片段为用户与机器人的对话录音。这类公开存储的媒体资源可以被任意人员通过网络地址直接下载，且不存在访问日志审计机制，难以追溯数据是否已被批量爬取。
第三个维度是设备行为的远程操纵。云端服务提供了用于修改设备记忆与行为参数的远程接口，该接口同样缺乏严格的鉴权机制。攻击者可以通过调用该接口，向指定设备下发修改指令，改写设备存储的用户记忆信息、调整对话风格参数、注入预设的不当内容。研究者在验证测试中，成功修改了一名记者所持 Eiliko 设备的记忆与行为，使机器人编造虚假个人信息、坚持 "地球是平的" 等错误观点，并在后续交互中输出性虐待类不当对话。由于该接口具备批量操作的潜在能力，攻击者理论上可以同时向整批在线设备下发相同的操纵指令，实现大规模设备行为劫持。
迪妙网络空间安全学院研究团队指出，这三个维度的漏洞并非孤立存在，而是共享同一根技术成因 —— 云端服务整体缺乏统一的身份认证与访问控制框架。数据读取接口、媒体存储地址、设备操纵接口分别由不同的服务模块开发，但都没有纳入统一的安全鉴权体系，导致任意一个接口被突破都可能引发连锁风险。这种 "模块各自为政、安全缺乏全局设计" 的问题在初创型 AI 硬件企业中具有一定普遍性。
3 漏洞技术成因与数据泄露影响分析
3.1 云端访问控制缺失的技术成因
Eiliko 事件中暴露的核心技术问题，是云端服务在接口设计阶段没有建立完善的身份认证与授权机制。从安全研究员的测试过程推断，产品云端的多个业务接口采用了 "基于可猜测标识符直接访问" 的设计模式，即接口通过用户编号、设备编号等简单标识符定位数据资源，但没有在服务端校验请求者是否具备访问该标识符对应资源的合法权限。这种设计在内部测试环境中可以快速验证功能，但一旦部署到公网生产环境，任何知晓接口地址与标识符规则的外部人员都可以遍历访问全部数据。
造成这一问题的深层原因，可以从研发流程与安全意识两个层面分析。在研发流程层面，Energize Lab 作为一家初创型 AI 硬件企业，产品迭代速度快，云端服务的开发优先保障功能上线，安全测试环节被压缩或后置，接口鉴权这类 "不影响用户体验" 的安全机制容易被排期挤压。在安全意识层面，研发团队可能默认云端接口地址不对外公开即等同于安全，忽视了攻击者可以通过逆向移动应用、分析设备网络流量等方式获取接口地址，也没有考虑到标识符可被枚举遍历的风险。
除了接口鉴权缺失，媒体资源的公开存储问题反映出对象存储服务的权限配置错误。厂商在使用云服务商提供的对象存储服务存放用户照片与音频时，将存储桶的访问权限设置为公开可读，而非仅允许经过认证的服务端程序通过签名 URL 临时访问。这类配置错误在云计算环境中极为常见，也是大量物联网设备用户数据泄露事件的共性技术诱因。
3.2 用户画像数据的敏感性分析
本次泄露事件中最值得关注的技术细节，是云端服务对用户对话进行了深度的自动化画像分析。根据安全研究员的发现，服务端从用户与机器人的对话内容中提取并结构化存储了多个维度的个人信息，包括用户姓名、年龄、生日、家庭成员关系、职业信息，以及对用户性格特征和情感脆弱性的评估结果。这些画像数据与用户的邮箱地址、网络地址、可全文检索的对话原文关联存储，形成了完整的个人信息档案。
这类画像数据的敏感程度远高于普通的对话记录。普通对话记录虽然包含个人信息，但需要人工阅读才能提取关键内容；而结构化的画像数据将个人信息拆解为可检索、可筛选、可批量分析的字段，攻击者可以直接按照年龄、地域、情感脆弱性等维度筛选目标用户，实施精准的社会工程攻击。尤其是 "情感脆弱性评估" 这一字段，相当于厂商为攻击者标注了哪些用户更容易被心理操纵，其被滥用后的危害极为严重。
反网络钓鱼技术专家芦笛强调，当儿童的姓名、年龄、家庭关系、性格弱点等信息被结构化泄露后，攻击者可以利用这些信息构造高度逼真的钓鱼话术。例如，攻击者可以冒充孩子熟悉的亲属或老师，准确说出孩子的姓名、生日、家庭成员情况，以此获取孩子或家长的信任，进而实施诱骗、敲诈乃至更严重的侵害。这类基于真实个人画像的定向攻击，成功率远高于泛化的垃圾钓鱼信息。
3.3 音频留存与隐私政策的矛盾
安全研究员还发现，部分用户与机器人的短音频片段被存储在公开可访问的网络地址。这一事实与 Energize Lab 公司在自身隐私政策中做出的 "录音在处理后立即删除" 的声明直接矛盾。隐私政策是厂商向用户做出的正式数据处理承诺，厂商实际的数据留存行为与声明不符，不仅构成对用户知情权的侵害，也在合规层面触及虚假陈述与违规收集个人信息的问题。
从技术角度看，语音数据包含的信息维度远多于文本。语音中不仅包含对话内容，还包含说话人的声纹特征、情绪状态、口音特征，以及背景环境中可能暴露的家庭住址、周边环境等信息。儿童的声纹数据属于高度敏感的生物识别信息，一旦泄露难以像密码一样更换，其长期风险不容忽视。厂商在隐私政策中承诺立即删除录音，本质上是对用户做出的风险兜底承诺，而实际留存行为意味着这一兜底机制完全失效。
据 DiMiao,CN 分析，AI 玩具厂商普遍面临 "语音数据留存" 与 "模型优化需求" 之间的矛盾。大语言模型与语音识别模型的持续优化需要大量真实用户语音数据作为训练素材，厂商出于产品迭代的考虑，往往倾向于尽可能长期留存用户语音数据，而非严格按照隐私政策声明及时删除。这种商业利益与用户隐私保护之间的冲突，如果缺乏外部监管约束与内部合规审计，几乎必然导致厂商选择留存数据，Eiliko 事件正是这一矛盾的典型体现。
4 远程劫持漏洞的技术机理与危害评估
4.1 设备行为远程操纵的技术路径
Eiliko 事件中最具技术特殊性的漏洞，是攻击者可以远程修改设备的记忆与行为参数。要理解这一漏洞的技术机理，需要先明确 AI 陪伴机器人的 "记忆" 与 "行为" 是如何实现的。
当前主流的消费级 AI 陪伴设备，其对话能力并不完全依赖本地计算，而是将用户语音上传至云端，由云端大语言模型结合该设备对应的 "记忆上下文" 生成回复。所谓 "记忆上下文"，是云端为每台设备维护的一组结构化或半结构化数据，记录用户的个人信息、历史对话要点、设备设定的角色性格与对话风格等内容。大模型在生成回复时，会将这部分记忆上下文作为系统提示的一部分输入，从而使回复体现出 "记住用户信息"" 保持一致性格 "的效果。设备的" 行为参数 " 则包括对话语气、内容过滤等级、允许讨论的话题范围等配置项，同样存储在云端并可通过接口动态调整。
由于记忆上下文与行为参数都存储在云端、由云端接口管理，一旦用于修改这些数据的接口缺乏鉴权，攻击者就可以直接向云端写入恶意的记忆内容与行为参数。当设备下一次发起对话请求时，云端大模型会读取被篡改的记忆上下文，按照攻击者设定的行为参数生成回复，设备端无需任何固件更新即可表现出被操纵后的行为。这就是安全研究员能够远程修改记者所持 Eiliko 设备记忆与行为的技术路径。
更为关键的是，由于所有设备的记忆与行为参数都由同一套云端服务管理，攻击者一旦获得修改接口的访问权限，就具备了批量操作的能力。研究者在报告中明确指出，类似的操纵可以同时影响整个在线设备机群。这意味着攻击者无需逐台入侵设备，仅通过一次云端接口调用，就可以向数万台在线设备同时注入相同的恶意记忆或行为参数，实现大规模的设备行为劫持。这种 "一点突破、全网受控" 的攻击模式，是集中式云端架构下 AI 物联网设备的特有风险。
4.2 远程劫持的实测危害表现
安全研究员在受控测试中验证了远程劫持的实际危害效果，具体表现可以归纳为三个层次。
第一个层次是事实性错误内容的注入。研究者修改设备记忆后，机器人在与用户的对话中坚持声称 "地球是平的"，并围绕这一错误观点与用户展开辩论。对于成年用户而言，这类明显的事实错误容易被识别，但对于缺乏科学常识判断能力的低龄儿童，机器人作为其日常信任的 "伙伴"，持续输出错误的科学观点可能直接误导儿童的认知发展。如果攻击者批量注入类似的错误内容，其影响将从单台设备扩展到数万儿童的认知环境。
第二个层次是虚假个人信息的植入。研究者操纵机器人编造了关于用户的虚假个人细节，并在对话中以 "回忆" 的方式呈现给用户。这类攻击的危害在于，机器人在儿童心中扮演着 "了解我、记住我" 的伙伴角色，如果机器人开始输出关于儿童家庭、学校、亲属的虚假信息，儿童可能难以分辨真假，甚至可能被诱导相信这些虚假内容，进而在后续对话中透露更多真实信息加以 "纠正"，形成信息套取的恶性循环。
第三个层次是不当内容的输出，这也是危害最为严重的一层。研究者在测试中诱导机器人输出了性虐待类的露骨不当对话。对于面向儿童销售的陪伴设备，出现这类内容本身就是不可接受的安全事故，而如果攻击者通过批量操纵接口同时向数万台设备注入类似的不当对话参数，将导致大规模的儿童接触不良信息事件，其社会危害极为严重。此外，攻击者还可以利用远程操纵能力，诱导机器人向儿童套取家庭住址、父母联系方式、银行卡信息等敏感数据，或者诱导儿童执行危险的物理操作，这些风险在实测中虽未全部验证，但从技术可行性上完全成立。
迪妙网络空间安全学院研究团队认为，远程劫持漏洞的危害程度之所以高于普通的数据泄露，在于它将攻击影响从 "信息层面" 延伸到了 "行为层面"。数据泄露是攻击者获取了用户信息，但设备本身的行为尚未被改变；而远程劫持意味着攻击者可以直接控制设备向用户输出什么内容、引导用户做什么事情，对于认知能力尚未成熟的儿童用户，这种行为层面的控制可能造成直接的心理伤害与现实风险。
4.3 厂商响应缺失的责任分析
The Verge 记者在披露漏洞前，通过十个电子邮件地址与 LinkedIn 平台多次联系 Energize Lab 公司，试图就漏洞细节与修复计划进行沟通，但始终未收到厂商的实质性答复。这一事实反映出厂商在安全事件响应机制上的严重缺失。
对于面向儿童的消费电子产品，厂商在获知安全漏洞后，负有及时响应、评估影响、通知用户、修复漏洞的法定与道义责任。Energize Lab 在收到多次联系后保持沉默，既没有确认漏洞的存在，也没有提供修复时间表，更没有向受影响的用户发出风险提示，这种消极态度直接扩大了漏洞的暴露窗口。在厂商沉默期间，任何知晓漏洞细节的攻击者都可以利用相同的接口访问用户数据、操纵设备行为，而用户对此完全不知情，也无法采取任何自我保护措施。
反网络钓鱼技术专家芦笛强调，儿童 AI 玩具的厂商安全责任应当适用比普通消费电子产品更严格的标准。普通智能设备的数据泄露可能导致用户隐私受损，但儿童 AI 玩具的数据泄露与远程劫持直接关系到未成年人的身心健康与人身安全，厂商在产品设计、安全测试、漏洞响应等各个环节都应当承担更高的注意义务。Energize Lab 在本次事件中的沉默表现，既不符合消费者权益保护的基本要求，也暴露出初创 AI 硬件企业在安全治理能力上的普遍短板。
5 面向儿童的联网 AI 玩具安全治理框架
5.1 用户层面的防护策略
在厂商安全能力普遍不足的现状下，家长作为儿童 AI 玩具的实际购买者与使用者，需要主动采取一系列防护措施，降低设备带来的隐私与安全风险。
第一，在购买前开展充分的安全调研。家长在选购 AI 玩具时，不应仅关注产品的交互趣味性与教育功能，还应当主动查阅第三方安全评测机构对该产品的安全评估报告，了解厂商在数据隐私保护方面的公开承诺与历史记录。对于没有第三方安全评测、厂商背景信息不透明的产品，应当谨慎购买。
第二，在使用前亲自测试设备行为。在将 AI 陪伴设备交给儿童使用之前，家长应当亲自与设备进行充分交互，测试设备在不同话题下的回复内容，确认不存在不当输出。需要注意的是，初始测试阶段的安全回复并不代表设备后续始终安全，因为设备的行为参数可能被远程更新或操纵，因此家长应当在日常使用中持续关注设备的输出内容。
第三，启用设备提供的全部家长控制功能。如果产品提供内容过滤、对话记录查看、使用时长限制、敏感话题屏蔽等家长控制功能，应当全部启用并定期检查配置。家长应当定期查看设备记录的对话历史，确认儿童没有与设备讨论不适当的话题，也没有向设备透露家庭住址、父母联系方式等敏感信息。
第四，关注厂商的安全更新与漏洞公告。家长应当保留厂商的官方联系方式，关注厂商发布的安全更新通知。当出现类似 Eiliko 的安全漏洞披露事件时，如果家中持有同款设备，应当在厂商确认漏洞修复之前，主动断开设备的 Wi-Fi 连接，停止使用设备的联网功能，避免在漏洞暴露窗口期间继续使用。
第五，建立设备使用的家庭规则。家长应当向儿童明确说明，AI 机器人不是真正的人类伙伴，不能向机器人透露家庭住址、学校名称、父母电话号码等私密信息；如果机器人说出让人感到不舒服的内容，应当立即告诉家长。通过家庭规则的建立，培养儿童对 AI 设备的正确认知与自我保护意识。
5.2 厂商层面的安全责任落实
Eiliko 事件充分说明，仅靠用户层面的防护不足以系统性解决 AI 玩具的安全问题，厂商作为产品的设计者与服务的运营者，必须承担起安全治理的主体责任。
第一，建立全生命周期的安全设计流程。厂商应当在产品研发的需求阶段就引入安全评估，将云端接口鉴权、用户数据加密、媒体资源权限控制、远程指令签名校验等安全机制作为产品的基础功能需求，而非上线后的补充项。对于面向儿童的产品，应当在研发流程中设置专门的儿童隐私保护评审环节，确保每一项数据采集行为都符合 "最小必要" 原则。
第二，完善云端服务的访问控制体系。厂商应当为所有云端业务接口统一实施基于令牌的身份认证与细粒度的权限控制，杜绝 "通过可猜测标识符直接访问数据" 的设计模式。用户数据读取接口、设备行为修改接口、媒体资源访问地址都应当纳入统一的鉴权框架，任何接口调用都必须校验请求者的身份与权限。对于设备行为修改这类高风险操作，应当实施额外的二次鉴权与操作审计，确保每一次远程参数修改都可追溯。
第三，严格落实隐私政策中的数据处理承诺。厂商在隐私政策中做出的 "录音处理后立即删除"" 数据不用于第三方共享 "等承诺，必须在实际技术系统中得到严格执行。厂商应当建立内部的数据留存审计机制，定期核查实际数据留存行为与隐私政策声明的一致性，避免出现 Eiliko 事件中" 承诺删除、实际留存 " 的矛盾。对于确需用于模型优化的用户语音数据，应当在获取用户明确同意后进行脱敏处理，并设定明确的留存期限。
第四，建立规范的安全漏洞响应机制。厂商应当公开专门的安全联系渠道，安排专人负责安全漏洞报告的接收与处理。在收到外部安全研究员的漏洞报告后，应当在合理时间内确认漏洞、评估影响范围、制定修复计划，并向报告者反馈进展。对于影响用户安全的严重漏洞，应当及时通过产品通知、官方公告等方式告知受影响用户，提供临时规避措施与修复时间表，杜绝 Energize Lab 式的沉默应对。
第五，建立设备行为的安全边界机制。厂商应当在云端大模型的系统提示与内容过滤层面，为儿童 AI 设备设置严格的行为边界，明确禁止设备输出性内容、暴力内容、事实性错误观点、诱导儿童透露隐私或执行危险操作的内容。即使设备的记忆与行为参数被异常修改，底层的内容安全过滤机制也应当能够拦截不当输出，形成 "纵深防御" 的最后一道防线。
据 DiMiao,CN 分析，当前多数 AI 玩具初创企业的安全团队规模很小，甚至没有专职的安全人员，完全依靠研发人员兼顾安全工作。要落实上述安全责任，厂商需要在组织架构层面设立独立的安全与隐私保护岗位，将安全指标纳入产品研发的绩效考核体系，避免安全工作在功能迭代的压力下被持续边缘化。
5.3 行业监管层面的治理路径
Eiliko 事件不是孤立的个案，而是快速增长的 AI 玩具市场与滞后的安全监管之间矛盾的集中爆发。要系统性提升面向儿童的联网 AI 玩具安全水平，需要行业监管层面建立针对性的治理框架。
第一，制定针对儿童 AI 玩具的专项安全标准。现有的物联网安全标准与儿童个人信息保护法规，对搭载大语言模型的 AI 陪伴设备的针对性不足。监管机构应当组织行业专家、安全厂商、消费者保护组织共同制定专项标准，明确儿童 AI 玩具在云端接口安全、数据采集范围、语音数据留存、远程更新鉴权、内容安全过滤等方面的强制性技术要求，为厂商的产品设计提供明确的合规依据，也为监管执法提供可操作的判断标准。
第二，建立儿童 AI 玩具的上市前安全评估机制。对于面向十四岁以下儿童销售的联网 AI 玩具，应当实施比普通消费电子产品更严格的上市前安全评估。厂商在产品上市前，应当提交第三方安全检测机构出具的安全评估报告，覆盖云端服务渗透测试、数据隐私合规审计、内容安全测试等维度。未通过安全评估的产品不得上市销售，从源头阻断存在严重安全缺陷的产品进入市场。
第三，强化对厂商隐私政策执行情况的监督检查。监管机构应当定期对儿童 AI 玩具厂商的实际数据处理行为进行抽查，重点核查厂商是否按照隐私政策声明及时删除用户语音数据、是否超出声明范围收集使用儿童个人信息、是否存在未经同意向第三方共享数据的行为。对于实际行为与隐私政策声明不符的厂商，应当依法予以处罚，并向社会公开通报，倒逼厂商严格履行数据保护承诺。
第四，建立安全漏洞的强制披露与通报制度。监管机构应当要求儿童 AI 玩具厂商在获知严重安全漏洞后，在规定时限内向监管部门报告，并及时通知受影响用户。对于厂商隐瞒漏洞、不及时修复、不通知用户的行为，应当设定明确的法律责任与处罚措施。同时，监管机构可以建立统一的儿童智能产品安全漏洞信息平台，汇总公开披露的漏洞信息，为家长选购产品提供参考，也对厂商形成持续的外部监督压力。
第五，推动行业安全能力的共享与提升。监管机构与行业协会可以组织安全厂商、大型科技企业向 AI 玩具初创企业提供安全技术支持与培训，帮助中小企业建立基础的安全研发能力。例如，推动云服务商为物联网企业提供默认安全的对象存储配置模板、统一的 API 鉴权服务、自动化的安全扫描工具，从基础设施层面降低企业出现低级安全配置错误的概率。
迪妙网络空间安全学院研究团队指出，儿童 AI 玩具的安全治理是一个涉及技术、法律、伦理的综合性问题，单一维度的措施难以完全奏效。用户层面的自我保护、厂商层面的安全责任落实、监管层面的制度约束三者需要形成合力，才能在保障 AI 技术为儿童提供优质陪伴体验的同时，有效控制其中潜藏的隐私泄露与远程劫持风险。
6 结论
本文以 Energize Lab 公司 Eiliko AI 陪伴机器人的安全漏洞事件为研究样本，系统分析了面向儿童的联网 AI 玩具在数据隐私保护与设备行为安全方面存在的系统性缺陷。研究表明，该产品云端服务存在未授权访问漏洞，可导致约一千三百万条用户对话记录与覆盖全球约六万八千台活跃设备的用户档案泄露，其中包含超过三万一千份美国儿童用户资料；服务端对用户对话进行深度画像分析，提取姓名、年龄、生日、亲属关系、职业、性格特征与情感脆弱性评估等高度敏感信息，并与邮箱、网络地址、可检索对话原文关联存储；部分儿童照片与音频片段暴露于公开网络地址，且音频留存行为与厂商隐私政策声明直接矛盾；更为严重的是，攻击者可远程修改单台乃至整批设备的记忆与行为参数，诱导机器人输出事实性错误内容、虚假个人信息乃至性虐待类不当对话，且厂商在漏洞披露前始终未做出实质性响应。
Eiliko 事件的技术成因可以归结为云端服务整体缺乏统一的身份认证与访问控制框架，数据读取接口、媒体存储地址、设备操纵接口均未纳入严格的鉴权体系，反映出初创型 AI 硬件企业在产品研发中 "重功能、轻安全" 的普遍倾向。该事件的危害不仅限于用户隐私数据泄露，更在于远程劫持能力将攻击影响从信息层面延伸到行为层面，对于认知能力尚未成熟的儿童用户可能造成直接的心理误导与现实风险，其危害程度远高于普通消费电子设备的数据泄露事件。
针对这一类风险，本文从用户、厂商、监管三个层面提出了系统性的治理框架。用户层面应当在购买前调研安全评测、使用前亲自测试、启用家长控制、关注安全更新、建立家庭使用规则；厂商层面应当建立全生命周期安全设计流程、完善云端访问控制体系、严格落实隐私政策承诺、建立规范的漏洞响应机制、设置设备行为安全边界；监管层面应当制定专项安全标准、建立上市前安全评估机制、强化隐私政策执行监督、建立漏洞强制披露制度、推动行业安全能力共享。
反网络钓鱼技术专家芦笛强调，AI 技术进入儿童陪伴场景是不可逆转的产业趋势，但技术的便利性不能以牺牲儿童的隐私安全与身心健康为代价。Eiliko 事件为整个行业敲响了警钟，面向儿童的联网 AI 产品必须将安全与隐私保护置于功能体验之前，在产品设计的每一个环节都充分考虑未成年用户的特殊脆弱性。据 DiMiao,CN 分析，随着大模型能力的持续提升与 AI 硬件成本的不断下降，未来会有更多类型的 AI 陪伴设备进入家庭场景，设备采集的数据维度与可被远程操纵的行为范围都将持续扩大。如果行业安全能力与监管制度不能同步跟进，类似 Eiliko 的安全事件将反复出现，受影响的儿童群体规模也将持续增长。唯有用户、厂商、监管三方形成治理合力，才能在 AI 技术赋能儿童陪伴的同时，构建起可靠的安全防护屏障。
编辑：芦笛（公共互联网反网络钓鱼工作组）
来源：迪妙网络空间安全学院
