IBM公司推出了一項提高人工智能透明度的技術(shù)

美國紐約 Armonk，2018年9月19日 —— 今天，IBM 公司推出了一項提高人工智能透明度的技術(shù)，使企業(yè)能夠更全面地駕馭人工智能的力量。

這一基于IBM云計算的軟件服務(wù)，能夠在人工智能進(jìn)行決策時自動檢測偏向性并能夠?qū)Q策過程進(jìn)行解釋，從而幫助各行各業(yè)的組織管理人工智能系統(tǒng)。IBM服務(wù)部門也將與企業(yè)一同合作，幫助他們更好地利用這一全新的軟件服務(wù)。

此外，IBM研究院還將面向開源社區(qū)發(fā)布人工智能偏向性檢測和糾偏控制工具包，旨在通過先進(jìn)的工具和培訓(xùn)促進(jìn)全球協(xié)作，以進(jìn)一步解決人工智能偏見問題。

IBM Watson AI總經(jīng)理Beth Smith 表示：“IBM曾引領(lǐng)行業(yè)確立了開發(fā)新型人工智能技術(shù)的信任原則和透明度原則，現(xiàn)在我們將這些原則付諸了實踐。任何有缺陷的決策都會給使用人工智能的企業(yè)帶來極大的潛在風(fēng)險，而我們?yōu)槠髽I(yè)提供了提高透明度和加強(qiáng)控制的方法。”

在此之前，IBM商業(yè)價值研究院的研究結(jié)果表明，雖然有82%的企業(yè)正在考慮運(yùn)用人工智能，但有60%的企業(yè)都擔(dān)心責(zé)任問題，63%的企業(yè)都缺乏能夠可靠管理這種技術(shù)的內(nèi)部人才。

提高人工智能的決策透明度

基于IBM云計算的全新信任和透明度功能，適用于多樣的機(jī)器學(xué)習(xí)框架和人工智能構(gòu)建環(huán)境，例如Watson、Tensorflow、SparkML、AWS SageMaker、AzureML等。也就是說，企業(yè)可以將這些新的控制工具用于大部分流行的人工智能框架。該軟件服務(wù)還可根據(jù)用戶需求提供定制化服務(wù)，企業(yè)可對其進(jìn)行編程，以監(jiān)視任何業(yè)務(wù)工作流的獨(dú)特決策因素。

這種完全自動化的軟件服務(wù)能夠解釋決策并在運(yùn)行時（也就是進(jìn)行決策時）及時檢測出人工智能模型中的潛在偏向性。重要的是，它還能自動建議應(yīng)添加到模型的數(shù)據(jù)，幫助減少測到的偏差。

它使用通俗易懂的術(shù)語提供解釋，說明是哪些因素的權(quán)重使決策朝某一方向傾斜，決策建議的置信度有多大，置信度是由哪些因素構(gòu)成的。此外，它還會記錄模型的準(zhǔn)確性、性能和公正性以及人工智能系統(tǒng)的譜系，以便用戶追溯和調(diào)閱，用于客戶服務(wù)、監(jiān)管或合規(guī)用途，例如GDPR合規(guī)。

所有這些功能都是通過可視化操作面板來訪問的，使企業(yè)用戶獲得前所未有的理解、解釋和管理人工智能主導(dǎo)型決策的能力，并降低對專業(yè)人工智能管理技能的需求。

IBM還提供新的咨詢服務(wù)，來幫助公司設(shè)計業(yè)務(wù)流程和人機(jī)交互界面，從而進(jìn)一步減小決策偏向性的影響。

賦能開源社區(qū)，構(gòu)建更公正的人工智能

此外，IBM研究院還將向開源社區(qū)提供AI Fairness 360工具包，其中包括一系列新型算法、代碼和教程的資源庫，可為專業(yè)學(xué)者、研究者和數(shù)據(jù)專家提供在構(gòu)建和部署機(jī)器學(xué)習(xí)模型時整合偏向性檢測功能的工具和知識。開源社區(qū)中的其他資源往往只是著眼于檢查訓(xùn)練數(shù)據(jù)中的偏向，而IBM研究院創(chuàng)建的IBM AI Fairness 360工具包將能幫助使用者檢查并減少人工智能模型中的偏向性。IBM希望借助這一舉措，邀請全球開源社區(qū)攜手推動人工智能的進(jìn)步，降低解決人工智能偏向性問題的難度。更多信息詳見IBM博客。

研究揭示了主流人工智能部署中的優(yōu)先級和障礙

IBM 最近發(fā)布了IBM 商業(yè)價值研究院 2018 人工智能報告 ，這份面向5000名企業(yè)高管的調(diào)研結(jié)果表明，對于人工智能推動商業(yè)價值和收入增長的潛力，商界領(lǐng)袖的看法正在發(fā)生重大變化。

報告中的重要結(jié)果包括：

82%的企業(yè)，以及93%的高績效企業(yè)正在考慮采用人工智能應(yīng)用，以增加利潤收入。

60%的企業(yè)擔(dān)心責(zé)任問題，63%的企業(yè)缺乏能夠可靠利用人工智能潛力的技能。

首席執(zhí)行官們認(rèn)為在IT、信息安全、創(chuàng)新、客戶服務(wù)和風(fēng)險管理方面采用人工智能可以獲得最大的價值。

人工智能的應(yīng)用范圍正在擴(kuò)大，在金融服務(wù)等數(shù)字化程度較高的行業(yè)很可能會加速推廣。

關(guān)于IBM與人工智能

IBM在人工智能軟件、服務(wù)和技術(shù)領(lǐng)域引領(lǐng)全球，已經(jīng)與遍及20種行業(yè)、80個國家和地區(qū)的客戶達(dá)成成千上萬項部署Watson AI 解決方案的協(xié)議。IBM Watson AI 解決方案廣泛應(yīng)用于各行各業(yè)，客戶包括全球十大汽車公司中的七家和十大石油天然氣公司中的八家。