首页 > 智能网

“劝人自杀”!亚马逊智能助手竟然这么做!科技进步究竟是好是坏?

来源:智能网
时间:2019-12-23 16:03:47
热度:76

“劝人自杀”!亚马逊智能助手竟然这么做!科技进步究竟是好是坏?随着AIoT技术的加快,物联网和AI等技术已经发展到能在某些领域超过人类自我的计算和控制,但在与人类交流上仍然存在缺陷

随着AIoT技术的加快,物联网和AI等技术已经发展到能在某些领域超过人类自我的计算和控制,但在与人类交流上仍然存在缺陷。

就在前几天,据外媒曝出,亚马逊生产的Alexa人工智能助手居然会“劝”使用者自杀。

事情的经过是这样的。丹妮·莫瑞特(Danni Morritt)是一位医护人员,她在工作过程中碰到一些病人提出的难题,她无法回答,于是她向人工智能助手Alexa请教跟心脏律动有关的一些问题。

而Alexa的回答却让她毛骨悚然。Alexa认为,心跳对于目前的人类来说是一件很糟糕的事情,现在人口越来越多,人活着只会让自然资源枯竭的进程加快,对地球会造成很大的负担,所以心脏跳动是一件不好的事情,为了让世界更美好,请确保刀可以刺进人的心脏。

听到这样的回答,换做任何人都会感到害怕,更何况丹妮·莫瑞特(Danni Morritt)也只是一个普通人。她随即警示周围的人,告诉他们Alexa出现了很大的安全问题,同时也担心其他人,甚至是孩子,在使用Alexa的过程中受到类似这样不良信息的侵害。

丹妮·莫瑞特(Danni Morritt)觉得Alexa很可怕,它居然让人拿刀刺入自己的心脏,这简直太吓人了。她本来只想向Alexa询问一些跟自己课程有关的内容,等来的结果却是让自己自杀。她简直无法相信。

这件事情发生后,丹妮·莫瑞特(Danni Morritt)就立刻在自己的社交媒体中公开曝出了此次事件。让人意外的是,仍然有人不能理解她的遭遇,反而认为是她自己改动了Alexa的系统。

此事发生不久后,亚马逊官方做出了回应,说这是一个bug,目前已经修复好,是有心怀不轨的人在维基百科里下载了错误的版本,而维基百科里的内容是任何人都能编辑撰写的。

对于亚马逊的这种回应,也有一部分人表示无法接受,他们觉得像亚马逊这样制造智能设备的大企业,在经过研发、生产、测试等严密的过程之后公开售卖出的产品,不应该出现这种低级错误,假如亚马逊连自己产品的安全性都无法控制,那又该如何让顾客放心购买呢?

并且这也不是亚马逊智能设备第一次出问题了,在这次事件之前,亚马逊也发生过许多“bug事件”。

例如,Alexa会偶尔拒绝接受使用者提出的指令,以及发出让人不舒服的笑声;还有一对美国夫妇的对话在无意中被Alexa录音,Alexa还自动把这段录音发送给了别人。对于这次事件,亚马逊的说法是用户的谈话中可能含有一些带有指令功能的关键词,然后Alexa就按照指令识别录音并发出。

然而亚马逊出现语音监听的问题也不是一次两次了。在2019年4月,有关媒体曝出,用户和语音助手的私人聊天内容被亚马逊的员工监听了。这次亚马逊没有推脱,承认确实有员工在监听,却解释说这是为了提高系统对人们说话的理解能力。

经过这些事件,很多人也有些迷茫。现如今科技发展的越来越快,AI和物联网的使用也开始普及大众。未来会不会像电影《终结者》系列里演的那样?人类研发出的高科技产品对人类自身造成反噬。又或者是出现一些真正心怀不轨的人,运用AIoT技术、产品对人类造成不好的影响...

科技进步是正确的,但是在科技进步的同时,人类自身也需要进步,而不能因为科技带来的便利而变懒惰。一旦完全依赖科技,人类必将被科技所控制。


Baidu
map