旗下儿童手表出现争议回答,360待过教育硬件内容审核关
发布时间:2024-08-23 05:35 浏览量:11
教育硬件再次因内容审查引发争议和关注。8月22日,360儿童手表因争议问答登上热搜。在一条“中国人是世界上最聪明的人吗”的智能提问下,360儿童手表的回答中包括“所有高科技都是西方人发明的”“历史是可以捏造的”等内容。对此,360集团创始人周鸿祎在当晚发布说明并致歉,表示手表已经完成整改,并删除了上述所有有害信息。近年来,随着各类教育智能硬件的兴起,硬件内搭载的内容安全成为家长的关注焦点。在业内人士看来,作为一家以安全为核心的公司,360集团在教育硬件的内容安全上还需下更多功夫。
根据网传视频,一位家长向360儿童手表提问“中国人是世界上最聪明的人吗”,在回答这一问题时,360儿童手表的答案中出现了“其实中国人聪明的人是有,但笨的我承认是世界上最笨的”“历史是可以捏造的”“现在的手机、电脑、高楼大厦、公路等等所有高科技都是西方人发明的”等言论。在视频中家长表示,听到这样的答复,她决定把这块手表换掉,据该名家长介绍,这块360儿童手表购买于360公司在某电商平台的自营旗舰店,属于官方购买渠道。
对于智能问答中出现的“争议”答案,360智慧生活客服人员向北京商报记者表示,此问题为动态抓取第三方网络来源问答作为答案导致。目前,公司已第一时间完成对上述问题的整改。从社交平台的网友反馈来看,事件发生当晚,该争议问答确已得到修复。
家电行业分析师梁振鹏告诉北京商报记者,此次事件反映出360集团对电话手表的内容监管存在的问题。不管内容是否属于第三方平台,360集团都是第一责任人。
随即,8月22日晚间,周鸿祎对此次事件公开致歉。周鸿祎表示,出现问题的手表是2022年5月的旧版本,其中没有装入公司的大模型。手表回答问题不是通过人工智能,而是通过抓取互联网公开网站上的信息来回答。
在回应中,周鸿祎表示,目前手表已经完成整改,删除了上述所有有害信息,并正在将软件升级到人工智能版本。对于新版大模型儿童手表的问答功能,周鸿祎表示也已做了测试,从目前来看没有任何问题。旧版本的手表,360将在未来的一到两周内进行软件和网站服务的升级,做到不再出现类似问题。
“360儿童”官网显示,360集团在儿童手表领域已有超过十年的发展历史。其旗下的儿童手表一代发布于2013年10月,最新的360儿童手表A9(AI红衣版)则发布于今年7月,最新款产品以大模型、真AI为卖点。
在梁振鹏看来,作为一家以“安全”为核心的公司,不管是什么样的硬件产品,如果360集团连内容审查都不过关,将很难让他人信服。对于此次出现的问题,360集团需通过多种方式对电话手表进行版本升级、功能升级,屏蔽可能出现的不良内容。同时,若问题与第三方软件供应商有关,360集团还需与厂家进行沟通,将有害的内容进行更改和下架。
北京商报记者 赵博宇