近日,某品牌儿童手表搜索功能出现“不良答案”的消息登上热搜。相关答案毁三观的程度令人惊诧。事后,企业表示将整改并接受社会监督。

  为什么会出现这些毁三观的答案?从技术的手段上分析,当然可以得出各种结论。但技术背后的原因更值得深思,那就是一些企业缺乏社会责任感,在研发产品时没有从保护未成年人权益、呵护未成年人成长的角度去设计产品。所以,才会出现各种漏洞。试想,如果没有家长及时发现内容并推动企业整改,还会有多少毁三观的内容持续污染青少年的认知?

  更需要指出的是,不仅是某一款儿童产品存在类似问题。近年来,随着人工智能技术、大数据等科技发展,帮助儿童生活、学习的电子产品、App软件更加丰富。相伴而来的是,相关产品和软件在内容输出方面问题频出,引发社会的广泛关注和讨论。这背后反映的是一些企业不断追求应用最新的技术,却忽略了技术应用可能带来的风险。人工智能确实强大,其内容生成能力远超过人类,但人工智能在价值判断上存在紊乱的情况,它可能给人提供错误的信息,误导、欺骗人类。这就需要人类把握好价值判断的尺度。对于企业来说,在开发儿童产品时,认识到人工智能的局限性,牢记自身的责任,是必须守住的最基本的底线。

编辑:冯仪
原创版权禁止商业转载 授权>>
转载申请事宜以及报告非法侵权行为,请联系我们:010-56807194