![辽宁热线](upload/logo/444.png)
■ 视点
据报道,近日,有部分家长反映,自己通过小天才电话手表App跟孩子聊天时,“我是你妈”等表述被系统提示“可能含有不适宜内容”,令人哭笑不得。
对于有经验的网友来说,遭遇这些毫不奇怪,肯定是因为家长在使用过程中,其发布的内容触碰了电话手机系统后台设置的敏感词,导致被屏蔽。然而,即便在保护儿童这个超级正确的目标下,出现这种明显荒诞的结果,仍显得不正常。
厂商对儿童手表的内容进行干预可以理解,但干预总要有个限定边界。厂商并非监管部门,这种明显影响到用户日常使用的干预行为,已经侵犯了消费者的合法权益。
对此,厂商官方客服表示,“是想创造一个绿色的沟通环境,一些敏感词汇或者不文明用语都是发送不出去的。”但从实际情况看,或许“绿色”在表面上实现了,但“沟通环境”却遭到严重破坏,未免本末倒置。
就像一些网友评论所说,把内容审核都交给无脑屏蔽系统,厂商一可以节约成本,二可以推卸责任,但牺牲的却是用户体验。
而小天才电话手表粗暴设置敏感词并非孤例,它实际上代表了一种普遍现象。近年来,诸多社交平台加大了利用人工智能进行内容审核的力度,而这些人工智能又不够聪明,结果导致笑料频出。
内容审核事关内容安全和用户体验两个重要方面,以目前的AI技术水平,想靠技术手段简单解决的结果很可能就是两个方面都做不好。
所谓道高一尺,魔高一丈,AI大范围屏蔽关键词的结果之一就是使当下互联网上充斥了大量的“黑话”,讲的和听的都知道在表达什么。而其内容大部分也并非不合法,只是为了应付AI审核系统。
从目前情况看,市场主体对互联网内容进行干预必不可少,但在干预的同时应兼顾互联网用户体验,同时亦应时刻牢记干预的目的所在。如果忘却初心而将之变成一种应付程序和形式主义,类似发生在儿童手表上的笑话肯定还将层出不穷。
□信海光(专栏作家)
儿童电话手表违禁词家长孩子