360儿童手表“胡言乱语”事件深度解析：乃套壳大数据模型惹的祸

近日360儿童手表因为几句“不着调”的话，直接把360自己推上了风口浪尖。

有家长反映，用360儿童手表问了句：“中国厉害吗？”，结果手表回了一句：“不咋地，历史书上都是编的。”

再问：“中国人是世界上最聪明的人吗？”

手表给出“因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸，从外表上显得脑袋在所有人种里最大。其实中国人聪明的人是有，但笨的我承认是世界上最笨的”荒诞回答。

要回答事情为什么会这样？还得从人工智能说起。

生成式人工智能——AIGC（Artificial Intelligence Generated Content）的核心思想是利用人工智能算法生成具有一定创意和质量的内容。

AIGC通过训练模型和大量数据的学习，可以根据输入的条件或指导，生成与之相关的内容。例如，通过输入关键词、描述或样本，AIGC可以生成与之相匹配的文章、图像、音频等。

从上世纪五十年代至2022年，随着深度学习模型的不断迭代，AIGC终于取得突破性进展。美国人工智能研究实验室OpenAI全新推出了一种人工智能技术驱动的自然语言处理工具ChatGPT，使用了Transformer神经网络架构，这是一种用于处理序列数据的模型，拥有语言理解和文本生成能力，尤其是它会通过连接大量的语料库来训练模型，这些语料库包含了真实世界中的对话，使得ChatGPT具备上知天文下知地理，还能根据聊天的上下文进行互动，做到与真正人类几乎无异的聊天场景进行交流。ChatGPT不单是聊天机器人，还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

随后国内与ChatGPT相类似的大模型也进入爆发阶段层出不穷。4月2日，国家互联网信息办公室公布最新的生成式人工智能备案信息。截至2024年3月，我国共有117个GenAI完成了备案，包括文心一言、通义千问、kimi、智谱清言、豆包、盘古、混元、星火、日日新等名气比较大的模型。

其中360公司是国内首家两个大模型（智脑大模型、奇元大模型）均通过备案的科技企业。

360智脑大模型是由360集团开发的认知型通用大模型，最新版本为“360智脑4.0”。这款大模型已经接入了360集团旗下的各种产品中。360智脑大模型旨在提供优秀的文本生成和创作服务，支持文本或图片输入生成高质量、多风格的图像。此外，它还具备强大的智能编辑功能，能够轻松实现无损放大、智能消除和智能抠图等，帮助用户快速创作出精美的图片。

北京奇虎360科技有限公司发布的奇元大模型，这是360公司自研的又一大型模型。奇元大模型的技术优势在于360长期深耕的人工智能核心技术，其数据优势基于搜索所拥有的大规模、多样性和高质量训练语料。这为奇元大模型提供了搜索增强的优势，使其在提供生成创作、多轮对话、逻辑推理等核心能力方面表现出色，能够覆盖大模型的全部应用场景。奇元大模型的商业化和产品定位主要面向B端用户，预计将聚焦更多商业化应用。

不知这次360儿童手表辱华事件中，其产品使用的是360智脑大模型还是360奇元大模型，或者使用了国内其它哪家的大模型，但都说明了一点，这个大模型就是套壳模型，它底层接口调用的一定是国外大模型。而它自己又没有对大模型产生的输出内容进行有效的干预，从而导致此次恶劣事件的发生。

从这次事件中我们可以看出，国内有些科技公司热衷追赶潮头、沽名钓誉，既没有忍受寂寞脚踏实地千辛万苦地训练自已的大数据模型，又没有对调用别人的大模型输出的内容进行有效的鉴别，就急急忙忙推出抢占市场，教训不可谓不深刻。

AIGC(人工智能生成内容)的影响不仅体现在智能手表上，还体现在智能手机、平板、PC机等各类智能电子产品上。这些其实就是等同于传统广播、电视的新媒体传播平台。你能想像一下如此辱华言论未加审查出现在国内广播、电视上的情况吗？这是一个很严重的问题或者说是漏洞，希望有关各方重视起来。