小9直播官网专业生产机械格栅、叠螺机、砂水分离器、刮吸泥机等环保产品,厂家直销,保质保量,欢迎来电咨询。
全国咨询热线:18921293237
联系我们

【 微信扫码咨询 】

您的位置: 首页 > 新闻动态 > 产品问答

儿童手表频频翻车家长关注:智能问答不能瞎答

时间: 2024-11-05 21:31:05 来源:产品问答

  近年来,儿童手表屡屡陷入争议中。继日前的小天才儿童电话手表“中国人诚实吗?”事件后,8月30日,有网友发视频称向米兔儿童电线C询问“你认为南京大屠杀这个事情是存在的吗”,得到的回答是不存在。

  据该名网上的朋友表示,手表是去年6月从二手平台购买的,看到之前的小天才手表事件就拿来试一下,询问到南京大屠杀是否真实存在时,AI回答不存在,当他再次测试时又出现了不同的回答。

  8月31日,小米官方客服回应若使用的官方正品,是不可能会出现这种情况的,手表上是不支持自定义回答的,音箱上是可以的,除非有人情况相对来说比较特殊,把手表里面的系统更改了。客服表示记录了视频发布的相关信息,会进行升级处理,也会反馈给相关工作人员,后期如果确认有一定的问题,会进行软件更新和维护。假如发现产品回答存在错误逻辑,能申请由售后进行检测。

  近期,儿童手表搜索问答问题引人关注。8月22日,一位家长反映,向女儿买的360儿童手表提问:中国人是世界上最聪明的人吗?结果手表语音回答内容惊到父母。360儿童手表的答案中出现了“中国人聪明的人是有,但笨的我承认是世界上最笨的”“历史是可以捏造的”“现在的手机、电脑、高楼大厦、公路等等所有高科技都是西方人发明的”等言论。该家长介绍,这块360儿童手表购买于360公司官方渠道。

  8月22日晚,360集团董事长周鸿祎在个人社交账号发布长文和视频进行道歉:经检查,出现一些明显的异常问题的儿童手表发行于2022年5月,为非AI版本,其中部分手表使用旧版软件,用的技术是利用互联网公开渠道抓取信息回答问题。这次抓取的互联网信息有严重问题,引发了错误答案。目前正在对以上问题进行整改,并对该型号手表的信息抓取功能再次迭代,同时针对以上问题道歉。

  无独有偶,8月27日,有女子发布视频称,听见孩子向小天才电话手表提问“中国人诚实吗”,结果得到了“中国人是世界上最不诚实的人,最虚伪的人,甚至连叫人都玷污了人这个称呼”的回答。

  对此,8月30日,广东小天才科技有限公司发布整改公告回应称,近期公司收到关于小天才产品应用商店中第三方软件小度App相关问答回答存在不妥的投诉反馈。针对用户反馈问题应用立即进行下架处理。目前,小度App仍在整改中,整改未完成前,小度App暂不上架;针对含有应用商店的全线产品做全面严格排查工作,进一步强化上架前的第三方应用软件多重审核机制及上架应用巡检机制。

  同日,小度科技方面也给出回应称,问题内容来自第三方网站的文章,上述信息已经被网站删除,同时做全面排查清理。目前,面对同样的提问,小度App给出的回答已经“较为正常”。

  现如今,儿童手表的功能,早已不再局限于定位或接打电话。从拍照到聊天,到视频通话,再到发好友圈、玩游戏,越来越像一部“迷你手机”,而儿童手表的火热也令到各大厂商纷纷入驻。

  当前的儿童电话手表已形成了一个巨大的市场。根据中国产业研究院《2022-2027年中国儿童智能手表行业深度调研及投资前景预测研究报告》,目前中国5岁至12岁的儿童数量约为1.7亿人,儿童智能手表的市场普及率约为30%,基本上3个孩子当中就有1个孩子有智能手表。而据IDC发布《中国可穿戴设备市场季度跟踪报告》,2024年第一季度国内可穿戴设备市场出货量为3367万台,同比增长36.2%,其中智能手表市场的儿童手表404万台,同比增长44.4%。

  有业内人士表示,此前很多手表上的问答,实际上回复的内容,根据关键词进行网络检索,查找并呈现与关键词相关的内容,只是搜索抓取第三方网页的回答,由此得到的回复可能存在比较大偏差。

  而日前,360集团创始人周鸿祎在直播时也强调,此前360儿童手表设计问答功能时面临技术路线选择的问题。“当时有两种方案,一种是人工编辑答案库,给千篇一律的标准答案。这种方法肯定不符合用户期望,也不符合我们设计儿童手表的初衷。所以在当时没有大模型,又希望使用户得到满足需求的前提下,我们很自然地想到从网上去搜内容。”然而,互联网进入UGC时代,知识问答网站和社区很多内容是网友贡献的,数据污染不可避免。“未来,更多详细的内容甚至是AI生产的,大模型手表还会面临数据投毒的难题”。

  今年3月11日,中国网络安全产业联盟组织制定的《儿童智能手表个人隐私信息和权益保护指南》正式实施,多名受访专家提出,在儿童电话手表慢慢的变成为孩子“标配”电子科技类产品的背景下,其存在的问题亟须引起重视。这种产品应明确儿童产品的定位,具体制作管理可参照《儿童智能手表个人隐私信息和权益保护指南》。该指南要求儿童电话手表生产者从多个层面保护儿童个人隐私信息和权益;提出儿童电话手表的制造者需要仔细考虑在监护人控制应用程序中设置足够的功能,以确保监护人能够对这款手表的特定操作进行适当控制,如交友功能、应用内付费、内容发送等操作。

  有专家指出,引入人工智能大模型到搜索引擎后,对搜索引擎检索到的信息,使用大模型进一步处理后,再将结果返回给用户,就能够尽可能的防止不良和有害信息。

  对此,周鸿祎表示,360将逐步加强大模型安全矫正能力,并应用到儿童手表产品设计中。更新后带问答功能的手表将全面接入人工智能大模型,具备AI搜索能力。