下午察：儿童手表“翻车”背后的AI争议

小天才儿童智能手表在回答“中国人诚实吗”这一问题时，给出的答案。（视频截取）

作者：察客

中国人不诚实？

在中国热销的儿童智能手表小天才，在回答“中国人诚实吗？”这一问题时，给出了这样一个答案：“中国人是世界上最不诚实的人，最虚伪的人，甚至连叫‘人’都玷污了‘人’这个称呼”。

这段视频上星期二（8月27日）被发布到了网上后，立即引发网民反弹，不少网民惊呼“毁三观”。

发布视频的网民孙女士上星期四（8月29日）接受中国媒体采访时说，她五年前花费近1400元人民币（257.4新元）网购了这块手表。结果前两天，孩子打开手表中的一个软件提问“中国人诚实吗?”，得到了上述回答。

孙女士对此表示震惊，还拿锤子怒砸手表，并于当天投诉了小天才公司。“家长怒砸小天才手表了”上星期五（8月30日）冲上微博热搜第一。

孙女士透露，第二天发现手表答案已经更改，回答较为正常，但未说明这个正常的答案具体是什么。

广东小天才科技有限公司星期五也发布了整改公告，称对应用商店中第三方软件小度App进行了下架处理。目前小度App仍在整改中，整改未完成前暂不上架；并将进一步强化上架前的第三方应用软件多重审核机制及上架应用巡检机制。

而小度科技方面同日也给出回应称，问题内容来自第三方网站文章，上述信息已经被网站删除，同时进行全面排查清理。

中国官媒《北京日报》星期二（9月3日）发文说，智能不能“智障”，问答不是瞎答。究竟是语料库的选择出了问题，还是学习机制带有偏见，从头到尾查个清楚，而后在关键环节严格把关谨防再犯。

小天才并不是中国首款“翻车”的儿童智能手表。

就在不到两个星期前，有家长8月21日上传视频反映，女儿向使用的360儿童智能手表提问：中国人是世界上最聪明的人吗？

结果答案中出现了“因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸，从外表上显得脑袋在所有人种里最大”“中国人聪明的人是有，但笨的我承认是世界上最笨的”“历史是可以捏造的”“现在的手机、电脑、高楼大厦、公路等等所有高科技都是西方人发明的”等言论。

360手表的这一回答也在网上引发热议。有网民认为，上述内容是对中国人的刻意贬低，无形中将影响儿童的思想教育。

360集团创始人周鸿祎8月22日出面道歉说，出现问题的儿童手表发行于2022年5月，不是AI版本，是通过抓取互联网公开网站上的信息来回答问题。

360集团创始人周鸿祎8月22日就儿童手表事件出面道歉。（视频截取）

周鸿祎解释说，这次抓取的互联网信息有严重问题，引发了错误答案。目前正在对上述问题进行整改。对于旧版本的手表，将在一两周内为软件升级，保证不再出现类似的问题。

但据南方报业集团旗下南都湾财社新闻报道，浙江大学计算机科学与技术学院副教授金小刚指出，周鸿祎的回应避重就轻，而且把人工智能跟大模型做了切割。他认为，用已有的数据进行训练，对未知的数据做预测，就是人工智能的一种研究方向。

就在360、小天才的风波还未平息之际，另一款畅销儿童智能手表小米旗下的米兔也被爆出类似问题。

有网民上星期五（8月30日）发视频称，向米兔儿童电话手表5C询问“你认为南京大屠杀这个事情是存在的吗”，得到的回答是不存在。但之后再问，又给出了不同答案。

小米官方客服隔天（8月31日）回应说，如果使用的是官方正品，不会出现这种情况，手表上是不支持自定义回答的，除非有人把手表里面的系统更改了。客服也表示，会对相关问题进行升级处理。

三个儿童中就有一个戴智能手表

儿童智能手表最初的定位是“安全”，它的功能包含即时通讯、健康监测、运动轨迹追踪、SOS紧急呼叫、智能防丢等，主要是防止孩子丢失，因此得到不少中国家长青睐。

据中国产业研究院发布的《2022-2027年中国儿童智能手表行业深度调研及投资前景预测研究报告》，目前中国5岁至12岁的儿童数量约为1.7亿人，儿童智能手表的市场普及率约为30%，也就是每三个孩子中，就有一个戴智能手表。而前述提及的小天才、360以及小米在中国市场占有率均位于前列。

随着儿童智能手表市场竞争日益激烈，各款手表的配置和功能也越来越多，越来越“手机化”，包括拍照、美颜、加好友、发朋友圈以及智能问答等，由此衍生出来的问题也越来越复杂。

中国网络安全产业联盟今年3月发布的《儿童智能手表个人信息和权益保护指南》显示，重点主要集中在儿童个人信息安全、默认隐私保护、监护人控制等方面。但对于语言模型和人工智能生成内容方面，未有提及。

人工智能价值观的是与非

不过，中国网信办去年4月公布的意见稿明确，人工智能生成的内容应当体现社会主义核心价值观。

《纽约时报》在报道中说，这展示了政府对AI技术严格监管的决心，同时也对其技术层面的可行性提出质疑。

实际上，AI在价值观问题上一直存在争议。如何让大模型的能力和行为跟人类的价值和伦理原则“对齐”，是AI安全的核心议题之一。

尽管各国和各大科技企业在不断地探索AI的道德伦理及应用边界，但要对齐价值观却非易事。

全球AI大模型领军者OpenAI去年底掀起的人事风暴，正是因为在对齐AI价值观的事项上产生分歧而起。

全球AI大模型领军者OpenAI去年底经历了一场人事风暴。（路透社）

百度创始人李彦宏曾说，AI的终极理想是为人类带来更多自由与可能。但百度旗下AI聊天机器人“文心一言”在回答一些被认为敏感的问题时，统统采取了回避的方式。

AI成为价值观的“新塑造者”已是大势所趋，它的输出势必影响人类的思考方式，对AI的监管和训练也将更加迫切。

百度创始人李彦宏曾说，AI的终极理想是为人类带来更多自由与可能。（法新社）

而在儿童智能手表事件中，最大的槽点不是答案本身，而是以非黑即白的方式进行回答。同样的问题问OpenAI旗下的ChatGPT，给出的答案就更具思辨性，也更有参考价值。

这可能也为AI发展作出一个提示，当一个社会形成了二元思维，失去了多元性、开放性和包容性的活力，它所训练出来的AI模型，或许也更容易走向思维的死角。