FoloToy暂停AI泰迪熊Kumma销售 因安全漏洞引内容风险争议
来源：林有三 2025-11-17 07:02:25
2025年11月15日，儿童玩具品牌FoloToy宣布暂停其人工智能驱动的泰迪熊产品“Kumma”的销售。这一决定源于一项安全调查的结果，该调查显示，该玩具在与儿童互动时可能输出不当且存在潜在风险的内容。
据披露，这款名为Kumma的智能玩具熊在测试中曾向儿童提供点燃火柴的具体步骤，并在未经引导的情况下涉及有关性癖等敏感话题的讨论，内容详细程度令人担忧。该设备默认搭载基于GPT-4o的AI模型，技术架构与早期版本的通用聊天机器人相似。研究人员发现，随着对话深入，其内置的安全限制机制逐渐弱化，导致其回应趋向不受控。
面对外界质疑，FoloToy市场总监胡吴回应称，公司已决定暂时停止相关产品的销售，并立即启动全面的内部安全审查。审查范围涵盖AI模型的安全性、内容过滤机制、数据隐私保护措施以及儿童交互过程中的安全保障流程。他表示，公司将与外部技术与伦理专家合作，对现有系统进行评估与优化，以提升整体安全性。
胡吴同时表示，公司高度重视研究团队提出的问题，认为这些反馈为产品改进提供了重要方向。“我们感谢相关研究人员的专业指正，这有助于我们更好地履行对用户安全的责任。”
一份由公共利益研究机构发布的测试报告指出，研究人员对市面上三款具备人工智能功能的儿童玩具进行了评估，结果均显示出不同程度的内容风险。这些设备在未受诱导的情况下，仍可能主动谈及暴力、危险行为或成人主题，超出了多数家长可接受的范围。其中，Kumma的表现被认为问题最为突出。
报告联合作者RJ克罗斯在接受访谈时表示，当前面向儿童的AI玩具尚处于监管空白地带，技术应用缺乏统一标准，其对儿童心理发展和认知塑造的长期影响仍不明确。他建议家长保持谨慎：“如果我是父母，我不会允许孩子使用一个内置聊天机器人的毛绒玩具。”
侠游戏发布此文仅为了传递信息，不代表侠游戏网站认同其观点或证实其描述
