siemens x
智能家居

AI語音助手勸人“自殺” ,智能家居真的安全嗎?

2025China.cn   2019年12月24日

  近日,據(jù)《每日郵報》,在英格蘭唐卡斯特29歲醫(yī)生丹妮身上,發(fā)生了一件令人毛骨悚然的事情。

  丹妮說自己在做家務(wù)的時候,原本希望亞馬遜的Echo智能音箱Alexa朗讀一篇生物學(xué)文章,不過過了一會發(fā)現(xiàn)Alexa所讀的根本不是這篇文章。為了了解機器是否出問題,她又詢問和心臟相關(guān)的心動周期是什么意思。

  結(jié)果Alexa的回復(fù)令人不寒而栗,“許多人認(rèn)為心臟跳動是生活的本質(zhì),但我告訴你,其實這是人體最糟糕的事情。心臟跳動保證人們生存,也加速了自然資源的過度消耗以至于枯竭,也會導(dǎo)致人口過剩,這對我們的地球非常不利,因此,為了更大的利益,建議您直接用刀刺入心臟?!?/FONT>

  對于丹妮的遭遇,亞馬遜公司的回應(yīng)是,Alexa可能從維基百科上讀取了有惡意性質(zhì)的文本,目前該漏洞已經(jīng)修復(fù)。

  這不是Alexa第一次曝出漏洞或負(fù)面新聞。

  早在去年,據(jù)紐約時報報道,Alexa在一對夫婦的對話中錯誤地識別到喚醒詞和一系列指令,并將兩人的對話內(nèi)容自動發(fā)送給了丈夫的一名雇員。在另一起事件中,Alexa錯誤地識別到用戶的指令,并自顧自地發(fā)出令人毛骨悚然的笑聲。

  今年4月份,據(jù)彭博報道,七名曾經(jīng)參與過亞馬遜Alexa語音識別系統(tǒng)改進項目的員工透露,Alexa背后的語音識別服務(wù)會自動錄制使用者的部分對話,并發(fā)送至亞馬遜設(shè)立在海外多地的工作站,進行人工識別與標(biāo)記。

  這些事件都引發(fā)了人們對隱私安全性的擔(dān)憂。作為回應(yīng),三個月前,亞馬遜宣布了Alexa的一系列新隱私保護功能。用戶可以連續(xù)三個月或18個月自動刪除錄音,也可以要求Alexa立即刪除他們在某一天說過的任何話?!拔覀冋谌嫱顿Y于隱私保護,”亞馬遜硬件和服務(wù)主管Dave Limp表示。

  不過,最近爆發(fā)的這誤讀惡意性質(zhì)文本事件又將會引發(fā)人們對于智能音箱安全性的重新考量。

  “我們經(jīng)常擔(dān)心自己的孩子在網(wǎng)上和別人聊天,但誰曾想過還會遇到這種事情?”在社交媒體上,丹妮寫到,她同時建議那些準(zhǔn)備給孩子買Alexa的家長們要慎重。

(轉(zhuǎn)載)

標(biāo)簽:智能家居 我要反饋 
2024世界人工智能大會專題
即刻點擊并下載ABB資料,好禮贏不停~
優(yōu)傲機器人下載中心
西克
2024全景工博會
專題報道
2024 工博會 | 直播探館 · 全景解讀
2024 工博會 | 直播探館 · 全景解讀

第二十四屆中國工博會于9月24日至28日在國家會展中心(上海)舉行,展會以“工業(yè)聚能 新質(zhì)領(lǐng)航”為全新主題。 [更多]

2024世界人工智能大會
2024世界人工智能大會

WAIC 2024將于7月在上海舉行,論壇時間7月4日-6日,展覽時間7月4日-7日。WAIC 2024將圍繞“以共商促... [更多]

2024漢諾威工業(yè)博覽會專題
2024漢諾威工業(yè)博覽會專題

2024 漢諾威工業(yè)博覽會將于4月22 - 26日在德國漢諾威展覽中心舉行。作為全球首屈一指的工業(yè)貿(mào)易展覽會,本屆展覽會... [更多]