如何解決AI應用中出現(xiàn)的“數(shù)據(jù)孤島”和用戶隱私難題？

隨著人工智能的不斷發(fā)展與落地，用戶隱私問題越來越受到重視。近日，人工智能大數(shù)據(jù)公司因為違反相關法規(guī)而被罰巨額罰款，用戶隱私問題再次回歸大眾視野。人工智能企業(yè)在分享數(shù)據(jù)的同時應遵守哪些道德原則？隱私保護法規(guī)對于AI的發(fā)展與落地而言是機遇還是挑戰(zhàn)？更強大的數(shù)據(jù)保護法規(guī)是否會減緩AI的發(fā)展速度？在日前召開的第28屆國際人工智能聯(lián)合會議（IJCAI）上，業(yè)內(nèi)專家提出了當今各行業(yè)在處理數(shù)據(jù)、實現(xiàn)AI落地需要共同面對的多個問題。

“在《通用數(shù)據(jù)保護條例》等隱私保護條款實施的前提下，數(shù)據(jù)處理與隱私保護并不是一場‘零和博弈’的關系，二者的關系需要被正確對待，以實現(xiàn)雙贏的局面。”華盛頓大學教授、D. E. Shaw機器學習團隊董事總經(jīng)理兼負責人佩德羅多明戈斯認為，企業(yè)在處理數(shù)據(jù)時，不要被數(shù)據(jù)的力量沖昏了頭腦，需要重點考慮用戶的知情權，承擔起相應的社會責任。

如何解決AI應用中出現(xiàn)的“數(shù)據(jù)孤島”和用戶隱私難題？國際人工智能聯(lián)合會議2019理事會主席、微眾銀行首席人工智能官楊強給出了解決方案：“聯(lián)邦學習或是解決這兩個核心問題的同一個解決思路。”

什么是聯(lián)邦學習？“在保護數(shù)據(jù)隱私、滿足合法合規(guī)要求的前提下，繼續(xù)進行機器學習，這部分研究被稱為聯(lián)邦學習?！睏顝娬f，開始聯(lián)邦學習的背景是歐盟通過了《數(shù)據(jù)隱私保護條例》。該條例要求公司在使用數(shù)據(jù)前要先向用戶聲明模型的作用，這份條例的實行讓許多大數(shù)據(jù)公司在數(shù)據(jù)交流方面非常謹慎，這對于極度依賴數(shù)據(jù)的機器學習是一個巨大的挑戰(zhàn)。

“聯(lián)邦學習希望在不共享數(shù)據(jù)的前提下，利用雙方的數(shù)據(jù)實現(xiàn)模型增長?！睏顝娕e例，假設兩家公司想要建立一個用戶畫像模型，其中部分用戶是重合的。聯(lián)邦學習的做法是，首先通過加密交換的手段，建立用戶的識別符并進行溝通，在加密狀態(tài)下用減法找出共有的部分用戶。因為關鍵用戶信息并沒有得到交換，交換的只是共有的識別符，因此這并不違反《數(shù)據(jù)隱私保護條例》。然后，雙方將這部分數(shù)據(jù)提取出來，將各自擁有的同樣用戶的不同特征作為輸入，迭代地進行訓練模型、交換參數(shù)的過程。多項測試證明了給定模型參數(shù)，雙方不能互相反推出對方擁有的、自己沒有的特征，因此用戶隱私仍然得到了保護。在不違反《數(shù)據(jù)隱私保護條例》的情況下，雙方的模型性能都得到了提高。

“數(shù)據(jù)安全和用戶隱私目前已成為大數(shù)據(jù)時代的兩大挑戰(zhàn)，對于金融、醫(yī)療及法律等數(shù)據(jù)敏感行業(yè)更甚，聯(lián)邦學習可以解決這兩大問題?！蔽⒈娿y行AI部高級研究員劉洋介紹。

目前，聯(lián)邦學習已經(jīng)應用于多個行業(yè)的業(yè)務板塊。未來，AI與用戶隱私的平衡問題會持續(xù)伴隨AI的發(fā)展。楊強表示，新一代的機器學習算法框架，需以保護隱私、安全合規(guī)為出發(fā)點，用透明的機制來保障人工智能的健康發(fā)展，聯(lián)邦學習的發(fā)展提供了新思路。