確保人工智能保持合規(guī)性和安全性的三種技術

　　企業(yè)在實施人工智能策略之前，需要考慮采用一些新技術以幫助保護隱私，并確保符合安全標準。

　　如果企業(yè)參與了下一代數(shù)字產品工程，那么嘗試采用人工智能（AI）將幫助企業(yè)構建新的業(yè)務模型、收入流和體驗。

　　但是企業(yè)應該了解有關人工智能技術創(chuàng)新的頭條新聞。例如AlphaFold解決了具有50年歷史的蛋白質折疊問題，還有也許更具影響力的一些人工智能技術，這些進步使人工智能變得更加負責任和更加注重隱私。

　　隨著算法在訓練和部署中吸收和采用了越來越龐大的數(shù)據(jù)集，特別是隨著GDPR、CCPA、HIPAA等新隱私法規(guī)的發(fā)布，與人工智能/機器學習相關的數(shù)據(jù)隱私只會變得越來越重要。事實上，美國食品藥品監(jiān)督管理局（FDA）最近發(fā)布了一項新的行動計劃來規(guī)范醫(yī)療設備中采用的人工智能。不斷擴大的監(jiān)管框架部分地解釋了數(shù)據(jù)隱私是這十年最重要問題之一的原因。

　　當企業(yè)計劃在未來進行人工智能投資時，以下三種人工智能技術將確保其在未來保持合規(guī)性和安全性。

　　1.聯(lián)合學習

　　聯(lián)合學習是一種越來越重要的機器學習訓練技術，可以解決機器學習最大的數(shù)據(jù)隱私問題之一，尤其是在具有敏感用戶數(shù)據(jù)的領域中（例如醫(yī)療保?。?。過去十年的傳統(tǒng)做法是盡可能地隔離數(shù)據(jù)。但是，訓練和部署機器學習算法所需的聚合數(shù)據(jù)已造成嚴重的隱私和安全問題，尤其是在企業(yè)之間共享數(shù)據(jù)時。

　　聯(lián)合學習可讓企業(yè)提供聚合數(shù)據(jù)集的洞察力，同時在非聚合環(huán)境中確保數(shù)據(jù)的安全性?；厩疤崾?，本地機器學習模型是在私有數(shù)據(jù)集上訓練的，模型更新在數(shù)據(jù)集之間流動以進行集中聚合。至關重要的是，數(shù)據(jù)永遠不必離開本地環(huán)境。

　　通過這種方式，數(shù)據(jù)在保持安全的同時仍能給組織帶來“群體智慧”。聯(lián)合學習降低了單個攻擊或泄漏的風險，因為數(shù)據(jù)不是存放在單個存儲庫中，而是分散在多個存儲庫中。

　　2.可解釋的人工智能（XAI）

　　許多人工智能/機器學習模型（特別是神經網絡）都是黑盒模型。在經過大量數(shù)據(jù)的訓練之后，由于難以確定如何以及為何做出某些決定，這些模型通常是不負責任的。為了使它們更具責任感和透明度，需要使它們更具解釋性。

　　一個新興的研究領域稱為“可解釋性”，它使用復雜的技術來幫助為諸如決策樹之類的簡單系統(tǒng)以及諸如神經網絡之類的復雜系統(tǒng)帶來透明度。解釋有助于建立對系統(tǒng)的信任，也可以幫助研究人員了解為什么會犯錯誤以及如何快速糾正錯誤。

　　在醫(yī)療、銀行、金融服務和保險等敏感領域，不能盲目相信人工智能決策。例如，在批準銀行貸款時，需要理解為什么有人被拒絕，特別是當考慮到種族偏見潛入其他人工智能系統(tǒng)的例子時。隨著人工智能變得越來越復雜，將這些黑盒模型變得更加清晰將變得越來越重要，可解釋的人工智能（XAI）應該成為未來開發(fā)人工智能系統(tǒng)的組織關注的主要領域。

　　3.AIOps/MLOps

　　大約20年前，DevOps徹底改變了應用程序的開發(fā)、部署和管理方式。它使管道實現(xiàn)標準化，從而顯著提高了效率，并縮短了交付時間。

　　如今，AIOps/MLOps在人工智能方面也在做同樣的事情。Cognilityca公司預測，到2025年，全球MLOps市場規(guī)模將擴大到40億美元。

　　這個想法是通過標準化操作、衡量性能和自動修復問題來加速整個機器學習模型的生命周期。AIOps可以應用于以下三層：

　　（1）基礎設施層

　　這就是容器化發(fā)揮作用的地方。自動化工具使組織可以擴展其基礎設施和團隊，以滿足容量需求。DevOps的一個新興子集叫GitOps，它專門將DevOps原理應用于在容器中運行的基于云計算的微服務。

　?。?）應用程序性能管理（APM）

　　根據(jù)IDC公司的一項調查，全球應用程序宕機每年造成的損失在1.25美元到25億美元。應用程序性能管理（APM）通過簡化應用程序管理、限制停機時間和最大限度地提高性能來幫助組織。應用程序性能管理（APM）解決方案結合了AIOps方法，使用人工智能和機器學習主動識別問題，而不是采用被動方法。

　?。?）IT服務管理（ITSM）

　　IT服務規(guī)模巨大，實際上可以代表IT組織提供給最終用戶的任何硬件、軟件或計算資源，無論該最終用戶是內部員工、客戶還是業(yè)務合作伙伴。ITSM采用AIOps實現(xiàn)票務工作流、管理和分析事件、授權和監(jiān)視文檔等方面的自動化。

　　雖然大多數(shù)組織為了提高效率而實施AIOps/MLOps，但許多組織發(fā)現(xiàn)，例如應用程序性能管理（APM）平臺可以利用其豐富的數(shù)據(jù)資源作為預警系統(tǒng)，從而增加額外的安全層。隨著人工智能/機器學習生命周期得到更嚴格的優(yōu)化和結構化，安全和隱私風險將更容易識別和減輕。

　　負責任地進行實驗

　　在過去的幾年中，人們已經看到了許多強大的人工智能用例，但是未來將是確保這些用例背后的人工智能系統(tǒng)負責任地使用數(shù)據(jù)。隨著越來越多的隱私法規(guī)發(fā)布，并且隨著組織看到法規(guī)實際上增加了透明度和對客戶的信任，是需要嘗試負責任的人工智能的時候了。聯(lián)合學習、可解釋的人工智能和AIOps/MLOps將是三個很好的起點。
責任編輯人：CC