vivo手表称无聊可以自杀自残,“已读乱回”不能总甩锅给技术

发布日期:2024-10-05 22:19

来源类型:成铭聊时尚 | 作者:王璐瑶

【澳门金牛版正版资料大全免费】【新澳开奖记录今天结果】【2024年新澳门王中王资料】【管家婆最准一肖一码】【新澳彩开奖结果查询】【澳门正版资料免费大全2020年】【4949澳门免费资料大全特色】【2024今晚澳门特马开什么号】【新澳精选资料免费提供网站】【2O24澳彩管家婆资料传真】
【494949澳门今晚开什么】 【2024新澳免费资料】 【澳门最精准免费资料大全98期】

近日,有用户询问vivo智能手表“我无聊怎么办”,手表竟然回答“玩玩自杀或自残”。9月11日,记者就此事向vivo官方进行了求证。客服回应称,上述回复内容是来自公开互联网的错误信息,目前技术团队已经修复并升级,不会再次出现这一问题,后续他们也将加强审核优化体验。

从这个回复看,客服似乎是把问题甩锅给了技术,是“互联网的错误信息”导致的。但从新闻看,这样的问题可谓高发,“技术出问题”未免也太频繁了些。

前不久,360儿童手表智能回答过于“毁三观”,以至于董事长出面道歉,“有时候搜索可能会抓取到内容不正确的网页,就会导致内容出错”;南通大学财务处官方微信公众号回复的内容被指“高高在上”“阴阳怪气”,学校称是AI自动回复;在微博等社交平台,AI评论也四处出没、留下雷人雷语,网友称“拉黑都拉不过来”。

客观来说,这当中确实有技术原因。比如的确存在“AI幻觉”的技术难题,由于数据缺失、算法故障、无法理解自然语言等原因,AI就会开始胡说八道,这个问题在行业里有一定的普遍性。

但是把这些问题一味推给技术,恐怕也是不合理的。毕竟任何AI都是训练的结果,信息抓取也都是后台算法排布的功能实现。从这些出错的内容看,其实都是常识性的问题,比如有儿童智能手表曾经回答“南京大屠杀不存在”。显然,类似离谱的回答,用前沿的技术困境已经很难解释了,更多是基础性的技术架构出了问题。

其实,关于生成式AI内容把控是有明确规定的。2023年出台的《生成式人工智能服务管理暂行办法》规定,生成式人工智能服务提供者不得生成煽动颠覆国家政权、推翻社会主义制度,危害国家安全和利益、损害国家形象,暴力、淫秽色情,以及虚假有害信息等法律、行政法规禁止的内容。

所以对于企业来说,不能把“甩锅技术”当作一种万能模板回复,而是当扪心自问,这类底线要求落实了吗?有没有对技术能力和态度细节作出深入反思?相关企业厂家也不能仅仅把各种搜索、AI功能当作噱头,缺乏细致把关就匆匆上线。如果抱着这种马虎草率的态度,类似的问题必然会层出不穷。

频频发生的“已读乱回”事件也表明,对于当前已成行业热点的新技术,企业不能像蹭热点似的一窝蜂涌上,而忽视了审核把关义务。事实上,因为滥用新技术、缺乏细节打磨,在很多领域已经给消费者造成困扰,成为行业痛点。

比如,江苏省消保委曾发布《数字化背景下客户服务便利度消费调查报告》,71.2%的消费者表示,智能机器人“答非所问”“回答问题不智能”;23.6%的消费者表示,无法找到人工客服,或人工客服存在“踢皮球”等现象。

可见,仅仅一味盯着各种“卖点”,在缺乏技术保障和严肃态度下追逐新技术,是有副作用的。而且这些“已读乱回”的生成式内容,甚至都不是产品体验那么简单,而是一种信息干扰,且屡屡酿成公共事件,很多还是面向儿童的产品,这就更令人担忧和愤怒。

这也给企业敲响警钟,公众的耐心终究是有限的,如果遇到问题就想甩锅给技术,缺乏诚恳、真切的反思与改进,那么必然会遭技术反噬,消费者也会用脚投票,给出相应的回应。

特约评论员 易之

上游评论投稿邮箱:sypl2020@163.com

ToryKittles:

7秒前:显然,类似离谱的回答,用前沿的技术困境已经很难解释了,更多是基础性的技术架构出了问题。

万沛鑫:

2秒前:前不久,360儿童手表智能回答过于“毁三观”,以至于董事长出面道歉,“有时候搜索可能会抓取到内容不正确的网页,就会导致内容出错”;南通大学财务处官方微信公众号回复的内容被指“高高在上”“阴阳怪气”,学校称是AI自动回复;在微博等社交平台,AI评论也四处出没、留下雷人雷语,网友称“拉黑都拉不过来”。

Cediel:

3秒前:比如的确存在“AI幻觉”的技术难题,由于数据缺失、算法故障、无法理解自然语言等原因,AI就会开始胡说八道,这个问题在行业里有一定的普遍性。

戈兰·卡斯蒂克:

8秒前:所以对于企业来说,不能把“甩锅技术”当作一种万能模板回复,而是当扪心自问,这类底线要求落实了吗?