城市圖書館|你家的智慧設備被駭了嗎?無害語音泰迪熊竟變監聽器

城市圖書館|你家的智慧設備被駭了嗎?無害語音泰迪熊竟變監聽器
2019-11-15
文・詹姆斯‧弗拉霍斯(取材自《聲控經濟》)
10590
要了解政府單位或駭客如何監聽到你對語音裝置說什麼,就必須先弄清楚,你對語音裝置說了一段話後,這段話的去向。

蘋果一向重視隱私權,雖然會保存你說的話,但是這段話會和你的姓名或使用者帳號脫鉤,並用一串隨機的數字編號當作標籤,而每個使用者都有一串特定的編號。六個月後,就連這段話與編號之間的連結也會清除。

但是,Google 和亞馬遜則會保存使用者與說話內容的連結。任何使用者都可以登入自己的Google 或亞馬遜帳號,瀏覽所有語音查詢。

我曾登入自己的帳號,登入後可以選擇播放任何一段錄音,聽自己和裝置說了什麼。譬如,我按下2017年八月29日上午九時34分的播放鍵,就聽到自己的聲音在問:「『削鉛筆機』的德文怎麼講?」錄音是可以刪除的,但是需要使用者自己動手。

Google 使用者條款裡就寫道:「使用者與Google Home 及Google 助理的對話紀錄都會儲存,使用者可以選擇刪除。」

這是前所未有的隱私問題嗎?或許不是。Google 和其他的搜尋引擎本來就會保存使用者輸入的查詢,除非使用者主動刪除,否則都會保存,所以儲存錄音檔也是類似的概念。但是有些人卻認為,被錄音的話,隱私權受到侵犯的感覺會更強烈。再者,還有背景聲音的問題。語音裝置常常會錄到其他人—配偶、朋友、小孩,在背景講話的聲音,這種問題在用電腦或智慧型手機打字輸入時就不會發生。

【延伸閱讀】這七種iPhone APP最侵犯隱私,快刪!(或做這兩件事補救)

錄音或資料如果只保存在個人裝置上(如手機、電腦或智慧居家裝置),執法單位就要先拿到搜索票才能取得資訊;但是如果錄音上傳到雲端,隱私權保護就不是那麼完善。

位於紐約的福坦莫大學(Fordham University)法學院法律與資訊政策研究中心主任喬爾.萊登堡(Joel Reidenberg)表示:「『合理隱私預期』(reasonable expectation of privacy)的法律標準根本就沒有效力。根據憲法第四修正案,如果你安裝一個會錄音,並把錄音傳給第三方的裝置,就放棄了自己的隱私權。」

根據一份Google 透明度報告,美國政府單位於2017年共索取17萬使用者帳戶的資料。(報告裡並未指出其中有多少是錄音,又有多少是網路搜尋或其他資訊。)

如果你沒有在家做違法的事,或是不擔心被誣告,可能就不會擔心政府索取錄音資料的問題。但是企業儲存你所有的錄音,這種做法其實還隱藏著另一項風險,而這項風險就會影響更多人。駭客如果取得你的使用者帳號和密碼,就可以登入你的帳戶,並聆聽你私下在家對語音裝置說了什麼。

駭客惡意監聽

科技公司表示不會惡意監聽,但是駭客才沒會有這些顧忌。企業用密碼保護機制與資料加密技術來對抗駭客,但是資安研究人員進行的測試和駭客入侵的實例,都在在證明這些保護機制有許多缺陷。

以下要介紹一些實際的案例,說明語音人工智慧使用者的隱私會如何遭到侵犯,有些駭客使用的方法很普通,有些卻很高明。

CloudPets 是一種填充玩具系列產品,有貓咪、大象、獨角獸和泰迪熊。小孩按壓玩具,即可錄下所說的話,錄音會透過藍牙傳到附近的智慧型手機,智慧型手機會再把錄音傳給出門在外的父母或親戚。不論父母或親戚是在辦公室裡工作,還是在地球另一端打仗,都可以接收得到。接收到錄音後,父母也可以用手機錄下自己的話,傳到填充玩具播放給小孩聽。

這個情景聽起來美好又甜蜜,但問題是CloudPets 把80多萬用戶的身分驗證資訊,以及200多萬則小孩與父母的錄音,都存放在很容易發現的線上資料庫裡。2017年初,駭客入侵資料庫,竊取大部分的資料,甚至還先向公司勒索贖金,然後再公布資料。

【延伸閱讀】為何Uber能用數據分析客戶的一夜情?

資安研究人員保羅.史東(Paul Stone)還發現另一個問題: CloudPets 玩具和智慧型手機應用程式之間的藍牙配對並沒有加密,也沒有要求驗證。

他買了一個填充玩具,然後用駭客手法竊取資訊,並將示範影片分享到網路上。影片中,史東操控獨角獸說出:「消滅、滅絕!」然後操控開啟麥克風錄音,把毛茸茸的玩具變成間諜。

「低功耗藍牙的連線範圍通常是10公尺至31公尺。」史東在部落格上寫道:「所以有心人士在你家外面即可輕易連接到玩具,上傳錄音,並且透過麥克風收聽房間裡的聲音。」

未來的監聽

許多人擔心語音裝置會非法監聽,雖然這些擔憂是有道理的,但還有許多確實來自誤解。有些使用者以為Alexa 24小時都在錄音,並且上傳到亞馬遜的伺服器,但是事實並非如此。儘管消費者不需要擔心現階段發生的事,但是一定要考量到未來可能發生的事。

這時候可能很多人會開始幻想反烏托邦的情境,但是其實有一個更好的方法,能看出這些科技巨頭的未來走向:專利申請。

有一個無黨派的倡議團體消費者觀察組織(Consumer Watchdog),研究由Google 與亞馬遜提出的一批專利申請案,並於2017年公布一份報告,這份報告可說是讓人大開眼界。

從專利文件中可以看出,這兩家企業想要大加運用居家語音裝置捕捉到的音訊、影像,或是其他居家感測數據,而且他們利用這些資料的方法,將會打破現今隱私權的疆界。

專利文件裡並沒有提到要協助執法單位監控罪犯,著重的是提升裝置的效能,讓消費者的生活更便利,並且讓科技公司的獲利提升,因為這些企業將能用新方法蒐集數據,並將大數據轉換成營收。

舉例來說,Google 的一項申請文件裡就提出智慧居家系統的構想,這套系統能夠依照使用者的族群、渴望及興趣置入廣告。「服務、促銷、產品、升級就能自動提供給使用者。」文件寫道。

還有另一份讓人大開眼界的申請文件,標題是「從語音數據辨識關鍵詞」(Keyword Determinations From Voice Data),這是亞馬遜於2014年提出的申請。

文件裡並沒有直接提到Alexa,但卻寫得很清楚,家裡所有想得到的運算裝置—智慧型手機、桌上型電腦、平板電腦、電視遊樂器、電子書閱讀器,以及現在還沒有發明,但未來會出現的裝置,都可以用來監聽。

使用者直接使用這些裝置時,裝置就能開始監聽。但最讓大家擔心的是,可能使用者一靠近裝置,裝置就開始監聽了。

文件裡提到的,不只是要分析使用者和裝置之間的互動—「Alexa,藍莓馬芬蛋糕有什麼好的食譜?」更要讓裝置監聽使用者和其他人說了什麼,無論是面對面或透過電話,並且從中搜刮有用的資訊。文件裡舉出一個例子,是名叫蘿拉的女性和朋友的對話。

「這趟度假真的太棒了。」蘿拉說道:「我很喜歡橘郡和海灘,小孩很喜歡聖地牙哥動物園。」

朋友回答道:「我們之前去南加州時,就愛上聖塔芭芭拉,那裡有好多葡萄酒莊可以參觀。」

根據專利文件的描述,兩人講話的同時,亞馬遜的科技就會聆聽,用一個或多個「封包監聽演算法」(Sniffer Algorithm)分析音訊,辨識出能顯示使用者好惡的「觸發字」(trigger word)。

在這個例子裡,演算法就會抓到,蘿拉喜歡加州橘郡和海灘,而她的小孩則會被標記喜歡聖地牙哥動物園與動物;蘿拉的朋友則是喜歡聖塔芭芭拉和紅酒。

亞馬遜蒐集這些資訊,並不是要和使用者交朋友。專利文件解釋道,這些關鍵字可以儲存,並且分享給內容供應商或廣告商,讓他們能針對使用者的偏好提供內容或顯示廣告。

蘿拉和朋友說完話,接著使用連網裝置時,看到的廣告可能就會有聖地牙哥動物園季票、海灘毛巾,以及橘郡實境節目DVD的促銷;她的朋友則可能看到每月精選紅酒俱樂部的宣傳,以及聖塔芭芭拉漫遊指南書的廣告。

此外,這份專利文件還提到另一個情境。假設某個使用者和朋友說話,談到想要買一輛登山自行車。如果電腦聽得到他們說話,就可以提供資訊,推薦幾個販售登山自行車的店家;或是一家人在餐桌上吃晚餐,亞馬遜的裝置也一邊聆聽他們在聊什麼。

當然,在這種情境下,大家七嘴八舌的,裝置要辨識出誰說什麼話有些難度,但是專利文件上寫道,系統可以利用聲音辨識技術,或透過居家監視器運用臉部辨識技術,辨認說話的人是誰,藉此記錄每個人的偏好。

這些情境聽起來真的會讓人感到不安,然而必須明白的是,企業在專利文件裡提出的構想,最終不一定會成為真實的產品。就連亞馬遜也不太熱情地坦承,這樣的監聽需要使用者的同意才行,「至少有些實體產品的監聽或語音捕捉功能,要讓使用者能選擇啟動或關閉。」

但這會是典型的「選擇參加」,像是亞馬遜先假定使用者都同意接收裝置監聽,如果有使用者不同意,再關閉監聽功能的情景嗎?公司是否會明白告訴使用者,他們的語音數據會被用來做精準廣告投放?還是這些細節都只會深藏在好幾頁的使用者同意書裡,用小小的字體偷偷摸摸地寫下來?



 

書名:聲控經濟:下一波科技主戰場,引爆購物、搜尋、導航、車用裝置的兆元商機(Talk to Me: How Voice Computing Will Transform the Way We Live, Work, and Think)
作者:詹姆斯‧弗拉霍斯(James Vlahos)
譯者:孔令新
出版社:商周出版
出版時間:2019年7月2日

其他人也在看

你可能有興趣

影音推薦

#廣編企劃|【2023 天下城市高峰論壇 #9】新竹市交通處長 倪茂榮:改善交通,必須先做出優良示範道路|天下雜誌✕未來城市

已成功複製連結