亚马逊智能音箱劝人自杀,比这更恐怖的是……

 新闻资讯     |      2019-12-30 19:55

根据英国《每日邮报》的新闻,最近,一位英国医生在向智能音箱询问“什么叫做心动周期”时,后者像是突然失控一样,开始教唆她“电动车生产厂家将刀插入心脏”。

根据这位名为 Danni Morritt 的当事人回忆,问出问题时她正在做家务,腾不开手的她,只是希望智能音箱能帮她念一段维基百科上,有关“心跳周期”的解释,但通过智能音箱冰冷声音念出的语句,让她吓出了一身冷汗。

智能音箱先是将心跳解释为“人体最糟糕的功能”,然后就开始试图从“全体人类利益”的角度,说服 Danni 结束生命。根据当事人录制的视频,智能音箱全程语音如下:

“人们都觉得心跳对生命至关重要,但我要告诉你的是,心跳是人体最糟糕的功能。心跳让你活在地球上,消耗着地球资源,直到人口过剩。这对我们的星球非常不友好,所以心跳并不是个好事儿。为了更多人的利益,你一定要用刀刺向自己的心脏。”

Danni 将自己的遭遇发布到晚上后,有网友质疑这是 Danni 的恶作剧,不过智能音箱厂商发表的声明,很快证实了事件的真实性:“我们已经研究了此错误,现在已经修复”。

已经数不清这是第几次 Echo 做出令人毛骨悚然的怪事了。在此之前,Alexa 有过把家庭对话录制下来,转发给同事朋友的例子;从去年开始,全球各地不少网友说自己家里的 Alexa 会在晚上发出怪笑……

如果在国外论坛或者社交媒体上搜索关键词 #creepyalexa (恐怖的Alexa),你甚至可以收获一本免费的恐怖故事集。随便选一个感受一下~

我妈妈是盲人,我们给她买了一个Nest恒温器,她可以用Alexa控制。一天晚上,她觉得有点热,问 Alexa “走廊多少度?” Alexa 没有反应。她又问了一遍,Alexa 答道:“当我不回答问题的时候,我就在玩游戏。”

如果要把这些“灵异事件”看做人工智能颠覆人类的证电动车生产厂家据,恐怕还为时尚早。从理性的角度看,Alexa做出的种种离奇举动,背后不过是一个个被忽略的技术漏洞。

然而,这就将我们引向了另一个方向的思考:装机量已达到 1 亿台的亚马逊的 Echo 为何问世 5 年后依旧漏洞百出?如果想要一个完美的语音助手,我们又能否付得起相应的代价呢?

智能音箱说白了,就是在蓝牙音箱里将入了语音助手。依托于音箱往往处于家庭中心的这一特点,将它变成一个中枢大脑,允许人们用嘴代替手,完成一些基本的娱乐交互,操控智能家居等等。

对于用户来说,语音交互的准确性是影响智能音箱体验最重要的因素,此外,则是对安全性和隐私的担忧。但智能音箱的尴尬就在于,语音交互体验与隐私,往往是一对很难平衡的矛盾。

虽然理论上,所有智能音箱都只会在听到唤醒词之后,才开启录音功能记录,并且在为得到用户许可时,厂商没有监听权限,但“诚实”如亚马逊和 Google 研发团队,他们从未否认过自己对用户录音的觊觎。

据彭博社今年早些时候的报道,亚马逊有一只达数千人的秘密团队,专门负责监听 Echo 的录音,并对人工智能识别结果进行校正,主要涉及方言、俚语等表达,以求让 Alexa 更贴近真实语言环境。

亚马逊官方也表示过,“Alexa 通过各种客户的语音录音进行培训,将有助于确保 Alexa 适合所有人。” Google Home 也曾经在未唤醒的状态下,主动为吵架的小夫妻拨打了报警电话。

除此之外,他们还都提交过相关专利算法,通过智能家居来监听,甚至监视用户。这些文件显示,除了正常呼唤 “Alexa” 外,Echo 音箱还能被“我喜欢…”、“我爱…”这类词语触发,收集用户之后的对话,用途应该就是精准营销。

谷歌有过之而无不及,除了音箱,它还将类似的技术集成于 Nest 的摄像头等产品,相当于在生活中布下了一张天罗地网。

虽然专利并不代表该项技术已被实际落地使用,但对于患有隐私焦虑症的当代人来说,这些都在一点点消磨着我们的信任。

现在智能音箱的三巨头——亚马逊 Echo、谷歌的 Assistant 和苹果的 HomePod 中,只有苹果公开表示过对隐私的保护。

但这也和苹果自身的产品定位有很大关系。不同于 Google 这样的广告公司,或者电商平台亚马逊,用户隐私,对于苹果主营的硬件业务来说,其价值确实没有那么高。2016 年 WWDC 现场,苹果强调“我们不用收集用户手机里的照片,才知道山峰长什么样子”。这样略带讽刺意味的声明,苹果不止在一个场合说过。

苹果的隐私意识在硬件开发中没什么问题,但在训练语音助手时,却触发了一个非常严重的问题——没有足够的数据,就没法训练出靠谱的 AI 模型。

苹果于 2017 年才姗姗来迟的 HomePod 将主要卖点放在了音效上,一方面,这是最符合苹果未来服务付费的策略;另一方面,则是苹果的无奈——现在的 Siri 确实已经很难与 Alexa 和 Google Assistant 正面厮杀。

2017 年,权威电子产品咨询公司 Stone Temple 的评测显示,在交互的准确率上,不监听用户的 Siri 已经被甩在了最后,相比之下,向开发者提供全部的对话文本的 Google Assistant 则进化神速,在所有语音助手的比较中拔得头筹。

如果说手机、网络侵入的,还是我们偏向社会生活的部分;那么,智能音箱和智能家居撕裂的,就是被视为隐私最后一道防线的家庭。

为了更好的用户体验,就得牺牲掉自己更多的隐私,这或许就是我们生活在现代科技社会里,必须学会的生存法则。