智能虛擬助理知得信任嗎？

從惡意的黑客到意外的語音記錄，通過虛擬助理處理的數據可能會讓你面臨安全和隱私風險

你曾與Siri、Alexa或Cortana打過交道嗎？這些都開始于面向消費者的虛擬個人助理（VPA），用于大多數智能手機和像聲控電視遙控器這樣的產品。但是，到最近為止，VPAs正在演變?yōu)橹悄芴摂M助理（IVA），用于商業(yè)應用。一些通信供應商現在使用IVAs來支持業(yè)務功能，比如安排會議和電話會議。

你知道嗎，有了這樣的數字助手，你的語音數據就會被發(fā)送到云或另一個遠程位置進行處理？在你的電視遙控器前講話安全嗎？要求Alexa開始你的會議，你是否正在把你的商業(yè)數據置于危險之中？

智能虛擬助理

IVA是一個使用人工智能（AI）的系統(tǒng)，它模擬人的交互來完成任務。由于神經網絡、機器學習以及人工智能等技術的進步，IVAs正在快速發(fā)展。智能技術允許IVAs學習、推理和理解，執(zhí)行像客戶服務座席這樣的任務來解決客戶的問題。

實際上，在多個垂直市場中，IVAs被用于各種應用程序。他們通過為聯(lián)網的家庭和車輛提供一個直觀的界面來幫助消費者完成任務。

生態(tài)系統(tǒng)

IVA生態(tài)系統(tǒng)由三個主要部分組成。在遠程云位置，調用處理中心對文本和/或語音命令進行分析和響應，并執(zhí)行請求的操作。在用戶端，有一個終端設備，如AmazonEcho或帶有Cortana的PC。這些設備安裝了與IVA通信的嵌入式應用程序。

用戶的請求以文本或聲音的形式提交給IVA，或者以聊天格式提交，并存儲在云中。IVA對話可以通過應用程序和用戶的設備訪問。這就產生了一種隱私風險，因為語音記錄可能提供個人身份識別信息，或者未經授權的實體可以使用這些數據來識別用戶。

IVA軟件可以集成到物聯(lián)網設備中。許多IVAs允許第三方供應商鏈接他們的設備和服務，擴展IVA的特性和技能。例如，Alexa技能商店包含超過10，000個語音激活應用程序。

安全與IVAs

我確信會有創(chuàng)造性的黑客開發(fā)惡意軟件，為IVAs的隱私和安全攻擊提供機會。最近發(fā)生的一些事件突顯了與IVAs相關的重大安全和隱私風險。由于IVAs還在不斷成熟，預計會有更多的這些風險浮出水面，并且隨著時間的推移會發(fā)生更富有想象力的攻擊。

一篇題為“Alexa我可以信任你嗎？”的NIST文章，指出了四個可能的安全/隱私漏洞場景，如下圖所示。

圖片來自NIST的文章“Alexa，我能信任你嗎？”

竊聽

Packet sniffing是網絡診斷系統(tǒng)的一部分。它可以應用于捕獲來自IVA的通信?？梢苑治稣埱蠛晚憫?，以確定使用了哪些APIs。

正如文章指出的那樣，并不是所有的網絡通信都是通過安全連接傳輸的。有些人使用未加密的連接來檢查網絡的傳輸率，這使得檢測IVA設備成為可能。盡管IVA通信可能是加密的，但是有機器學習技術可以對流量進行分類，并報告有效載荷大小、數據率和其他模式。加密的流量可以用來識別設備的狀態(tài)。

妥協(xié)于終端設備（物聯(lián)網）

我曾經發(fā)表過關于物聯(lián)網（IoT）安全的博客--“爭取安全的物聯(lián)網”和“剝離物聯(lián)網互操作層”。

需要注意的是，IVA設備可以像任何其他端點一樣被破壞。你甚至可以體驗到拒絕服務的攻擊。網絡攝像頭和DVRs可以被惡意軟件感染。終端設備可以被命令設置成為一直在聽的狀態(tài)，這就像已經在許多聯(lián)網的嬰兒監(jiān)視器上所做的那樣。你的協(xié)作系統(tǒng)怎么樣？他們正處于危險之中嗎？

惡意的語音命令

由于IVAs處理語音命令，攻擊者可以模擬用戶并發(fā)出惡意的語音命令。它可以打開一扇智能門，啟動一輛汽車，甚至可以在沒有用戶信息的情況下在線訂購商品。一些IVAs提供了一個語音訓練功能，以防止這種模擬。如果模仿是高質量的，那么IVA可能無法區(qū)分真假。

意想不到的錄音

在IVA裝置范圍內說話的人可能被錄音。這可能是偶然的，但是這個人說的話仍然會被傳送到云上，這使其他各方（包括合法訪問存儲數據的人以及黑客）入侵數據庫。他們可以偷聽私人談話。非預期錄音的潛在影響是意味著你不能完全控制你的語音數據。我們的協(xié)作網絡會被破壞嗎？

我們已經了解到，當我們在IP網絡中引入新設備時，他們通常沒有把安全性作為他們的主要設計目標。Internet從來沒有被設計成一個真正安全的網絡環(huán)境，所以安全是留給端點的。安全性通常是一個附加組件，在發(fā)生了一些突出安全性問題的事件之后才采用的。似乎那些構建端點和生產軟件的人需要在他們的設計和開發(fā)中提升安全性保護措施。