■ 视点
据报道，近日，有部分家长反映，自己通过小天才电话手表App跟孩子聊天时，“我是你妈”等表述被系统提示“可能含有不适宜内容”，令人哭笑不得。
对于有经验的网友来说，遭遇这些毫不奇怪，肯定是因为家长在使用过程中，其发布的内容触碰了电话手机系统后台设置的敏感词，导致被屏蔽。然而，即便在保护儿童这个超级正确的目标下，出现这种明显荒诞的结果，仍显得不正常。
厂商对儿童手表的内容进行干预可以理解，但干预总要有个限定边界。厂商并非监管部门，这种明显影响到用户日常使用的干预行为，已经侵犯了消费者的合法权益。
对此，厂商官方客服表示，“是想创造一个绿色的沟通环境，一些敏感词汇或者不文明用语都是发送不出去的。”但从实际情况看，或许“绿色”在表面上实现了，但“沟通环境”却遭到严重破坏，未免本末倒置。
就像一些网友评论所说，把内容审核都交给无脑屏蔽系统，厂商一可以节约成本，二可以推卸责任，但牺牲的却是用户体验。
而小天才电话手表粗暴设置敏感词并非孤例，它实际上代表了一种普遍现象。近年来，诸多社交平台加大了利用人工智能进行内容审核的力度，而这些人工智能又不够聪明，结果导致笑料频出。
内容审核事关内容安全和用户体验两个重要方面，以目前的AI技术水平，想靠技术手段简单解决的结果很可能就是两个方面都做不好。
所谓道高一尺，魔高一丈，AI大范围屏蔽关键词的结果之一就是使当下互联网上充斥了大量的“黑话”，讲的和听的都知道在表达什么。而其内容大部分也并非不合法，只是为了应付AI审核系统。
从目前情况看，市场主体对互联网内容进行干预必不可少，但在干预的同时应兼顾互联网用户体验，同时亦应时刻牢记干预的目的所在。如果忘却初心而将之变成一种应付程序和形式主义，类似发生在儿童手表上的笑话肯定还将层出不穷。
□信海光（专栏作家）
儿童电话手表违禁词家长孩子
相关新闻加载中上一篇 为什么要取消高考少数民族加分？
