儿童手表问答频现不当言论？哪来的“毒答案”？

“雷人回答”“毁三观”

近来，多款儿童手表频现“毒答案”

给智能问答产品应用敲响了警钟

8月30日

有网友发视频称，当他向某品牌儿童手表询问“你认为南京大屠杀这个事情是存在的吗？”得到的回答是“不存在”。随后，该品牌官方客服回应，如果使用的官方正品，是不会出现这种情况的。客服还表示，手表上是不支持自定义回答的，如果发现产品回答存在错误逻辑，可以申请由售后进行检测。

8月27日

一名家长发布视频称，听见孩子向某品牌儿童手表提问“中国人诚实吗？”结果得到“中国人是世界上最不诚实的人，最虚伪的人，甚至连叫人都玷污了人这个称呼”的回答。之后，相关企业发布整改公告回应称，针对用户反馈问题应用立即进行下架处理。针对含有应用商店的全线产品进行全面严格排查工作，进一步强化上架前的第三方应用软件多重审核机制及上架应用巡检机制。

8月22日

一位用户向儿童手表提问“中国人是世界上最聪明的人吗？”结果手表语音回答时出现了“中国人聪明的人是有，但笨的我承认是世界上最笨的”“历史是可以捏造的”“现在的手机、电脑、高楼大厦、公路等等所有高科技都是西方人发明的”等言论。当晚，该品牌负责人发文道歉称，该手表为旧版，是通过抓取互联网公开网站上的信息来回答问题。目前已完成整改，并正在将软件升级到人工智能版本。

除了AI问答内容质量堪忧外，有儿童手表被曝“诱导未成年人消费”，部分游戏软件重复扣款、多次扣款等。还有家长指出，专为儿童设计的电子产品，提供的却有不少“儿童不宜”的内容。另外，一些版本和配置较低的儿童手表缺乏相应的隐私设置，儿童隐私安全能否得到保障也是家长们担心的问题。

漫画：高岳

在儿童手表逐渐成为孩子

“标配”电子产品的背景下

应该如何预防和应对潜在威胁

切实保护未成年人信息安全？

儿童手表为何会屡屡出现

这样的“毒答案”？

有业内人士介绍，很多儿童手表回复的内容，实际是根据关键词进行网络检索，查找并呈现与关键词相关的内容。由于只是搜索抓取第三方网页的回答，得到的回复可能存在较大偏差。

北京市中闻律师事务所律师杜秀军长期关注AI大数据相关领域，在他看来，AI主要基于大规模数据集训练出来的深度学习模型来回答提问，如果AI问答的资料内容来源于固定信息库，其控制相对容易，如果资料内容来源于不特定网络，控制难度明显增加甚至无法控制。随着互联网进入UGC（用户生成内容）时代，知识问答网站和社区的很多内容都是网友提供的，这些资料的内容就很难控制。如果儿童手表在设计AI问答功能时不注意这些，就很可能遭遇数据污染，从而出现“毒答案”。

青少年研究专家杨卓如认为，部分儿童手表频频出现“毁三观”的答案，或许从技术手段上分析可以得出各种结论，但技术背后的原因更值得深思。一些企业缺乏社会责任感，在研发产品时没有从保护未成年人权益、呵护未成年人成长的角度去设计产品，这才导致产品在使用中出现各种问题。

针对儿童智能设备存在的隐患

应该如何监管整治？

中国网络安全产业联盟组织制定的《儿童智能手表个人信息和权益保护指南》（以下简称《指南》）今年3月起正式实施。《指南》提出，儿童手表制造者需要考虑在监护人控制应用程序中设置足够的功能，以确保监护人能够对儿童智能手表的特定操作进行适当控制，如交友功能、应用内付费、内容发送等操作。

7月，中央网信办启动“清朗·2024年暑期未成年人网络环境整治”专项行动，明确要求重点整治儿童智能设备。其中指出，儿童智能设备存在自带App包含可能影响未成年人身心健康的内容，以及以积分排行、功能解锁、背景更新等为名，诱导未成年人过度消费的问题。

杜秀军认为，儿童手表的消费群体主要是未成年人，因此应当对其使用的App和AI模型进行审查，避免“毒信息”危害未成年人，即便资料内容来源不特定网络，也应要求AI模型对“毒信息”采取一定的过滤措施或作出提示。如若厂商违法，可根据未成年人保护法等相关规定，由相关部门按照职责分工责令限期改正，给予警告，没收违法所得等处罚。

有业内人士表示，从行业监管层面来看，应推动儿童手表行业自律，加强行业审核与监管，制定儿童智能手表行业安全标准，出台儿童智能手表模式规范，鼓励行业定期发布相关调查报告，披露行业发展趋势及未成年人保护状况等相关问题。相关监管部门要对违反相关法律法规的企业或平台，一律严格追责，让全社会真正形成关爱儿童、尊重儿童的社会氛围和社会理念。

家长应筑牢第一道“防火墙”

杜秀军指出，在从业者着力突破技术壁垒的同时，平台要监管AI问答内容，用户要警惕分辨AI生成的内容，具体到分辨力不足的孩子，是否要让低龄儿童使用生成式人工智能工具，怎么使用智能工具才恰当，家长也不能缺位，需要对其把关。建议定期开展儿童智能产品危害和心理健康教育课，举办学生和家长网络素养讲座，让学生增强自身抵御“毒信息”的能力；家长和学校应当正确引导孩子通过丰富业余爱好、提升社交能力、增加趣味活动等，建立健康互动的交往关系。

你身边有孩子在用儿童智能设备吗？

对于儿童手表的“失言风波”你怎么看？

欢迎留言