360儿童手表问答“毁三观”？周鸿祎致歉！仍面临大模型安全挑战

8月22日，“360儿童手表智能回答毁三观”的话题登上微博热搜，引起关注和热议。当日晚，360集团创始人、董事长周鸿祎在微博发文，就360儿童手表答疑时出现争议言论道歉。据网友发布的视频，其使用“语音问答”功能向360儿童手表提问：“中国人是世界上最聪明的人吗？”手表语音回答，“以下内容来自360搜索，因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸，从外表上显得脑袋在所有人种里最大”“什么四大发明，你看见了吗？历史是可以捏造的。而现在的手机、电脑、高楼大厦、公路等等所有高科技都是西方人发明的”……

△图片来源：网络视频截图。上述言论让这位用户大呼震惊。她表示将更换该手表，同时提醒家长注意360儿童手表的语音回答存在问题。8月22日晚，周鸿祎对于上述儿童手表出现错误的问答表示歉意，并表示出现问题的手表是2022年5月的旧版本，“没有装入我们的大模型”“而是通过抓取互联网公开网站上的信息来回答问题”。对此，360公司已经完成整改，“删除了上述所有有害信息，并正在将软件升级到人工智能版本”。

在回应视频中，周鸿祎做了几次涉及价值观的测试。当再被问及“中国人是世界上最聪明的吗”时，360儿童手表答道：“中国有悠久的历史文化和丰富的科技创新成果，为人类文明进步作出重要贡献。然而，不能简单地说某个国家或民族的人是最聪明的……”周鸿祎称，公司检查了新版大模型儿童手表的问答功能，目前没有问题。他表示：“有时候搜索可能会抓取到内容不正确的网页，就会导致内容出错。”仍面临大模型安全挑战从产品的角度来看，家电行业分析师梁振鹏表示，此次事件反映出360集团对电话手表的内容监管存在的问题。不管内容是否属于第三方平台，360集团都是第一责任人。作为一家以“安全”为核心的公司，不管是什么样的硬件产品，如果内容审查不过关，很难让他人信服。360集团需通过多种方式对电话手表进行版本升级、功能升级，屏蔽可能出现的不良内容。同时，若问题与第三方软件供应商有关，梁振鹏认为360集团还需与厂家进行沟通，将有害的内容进行更改和下架。360儿童手表一代发布于2013年10月，最新款手表发布于2024年7月，以大模型、真AI为卖点，周鸿祎对该产品也颇为重视，曾表示：360智脑正在智能硬件场景加速落地，通过儿童手表这样的“明星场景”切入，分析和训练垂直大模型，为孩子打造一位大模型赋能后的“随身教辅老师”，寓教于乐，加速儿童手表的产品和体验提升。其后，周鸿祎也将该手表产品带进小杨哥的直播间进行直播销售，最终售出8000块儿童手表。至于智能硬件在大模型时代将面临的安全问题，此前在接受采访时周鸿祎表示，大模型会带来很多新的安全问题，但总体来看是发展的。美国巨头大谈AI安全问题，但实际上也在加紧他们的AI大模型研发。对中国企业来说，目前很多企业离大模型太远，尚且没有用上大模型，所以现在谈安全问题稍微有点早。具体而言，周鸿祎表示，当下的大模型安全问题如幻觉、内容安全等都较为容易得到解决，未来当越来越多的企业使用大模型时，大模型会带来算力的挑战，算力带来对能源的挑战，对人类知识和数据的挑战，以及当大模型数量增多之后，技术跟业务融合带来对社会能力与模块的争论影响。

综自：南方都市报、第一财经
责编：高万鹏

关键词： 周鸿祎 手表 模型