儿童智能产品开发必须严守底线
发布时间：2024-08-29 16:51 浏览量：13
近日，某品牌儿童手表搜索功能出现“不良答案”的消息登上热搜。相关答案毁三观的程度令人惊诧。事后，企业表示将整改并接受社会监督。
为什么会出现这些毁三观的答案？从技术的手段上分析，当然可以得出各种结论。但技术背后的原因更值得深思，那就是一些企业缺乏社会责任感，在研发产品时没有从保护未成年人权益、呵护未成年人成长的角度去设计产品。所以，才会出现各种漏洞。试想，如果没有家长及时发现内容并推动企业整改，还会有多少毁三观的内容持续污染青少年的认知？
更需要指出的是，不仅是某一款儿童产品存在类似问题。近年来，随着人工智能技术、大数据等科技发展，帮助儿童生活、学习的电子产品、App软件更加丰富。相伴而来的是，相关产品和软件在内容输出方面问题频出，引发社会的广泛关注和讨论。这背后反映的是一些企业不断追求应用最新的技术，却忽略了技术应用可能带来的风险。人工智能确实强大，其内容生成能力远超过人类，但人工智能在价值判断上存在紊乱的情况，它可能给人提供错误的信息，误导、欺骗人类。这就需要人类把握好价值判断的尺度。对于企业来说，在开发儿童产品时，认识到人工智能的局限性，牢记自身的责任，是必须守住的最基本的底线。
《中国教育报》2024年08月29日第2版
作者：小野