谷歌公布新的AI道德使用七原則，但仍與美國(guó)防部合作

今天，谷歌CEO Sundar Pichai發(fā)表了署名題為《AI at Google: our principles》的文章，列出7大指導(dǎo)原則，闡述谷歌在研發(fā)和使用AI時(shí)將遵循的目標(biāo)。Pichai還明確列出了谷歌“不會(huì)追求的AI應(yīng)用”，包括可能造成危害的技術(shù)、武器等。但是，谷歌并不會(huì)終止與美軍的合作。

上周五，谷歌宣布與國(guó)防部Maven合同在明年到期后不再續(xù)約，并表示將發(fā)布關(guān)于使用AI的新道德準(zhǔn)則。

今天，谷歌CEO Sundar Pichai 發(fā)表了署名題為《AI at Google: our principles》的文章，列出7大指導(dǎo)原則，闡述谷歌在研發(fā)和使用AI時(shí)將遵循的目標(biāo)。

不僅如此，Pichai 還明確列出了谷歌“不會(huì)追求的AI應(yīng)用”，包括可能造成危害的技術(shù)、武器或其他以人身傷害為主要目的的技術(shù)、違反國(guó)際公約收集或使用信息的技術(shù)，以及違反人權(quán)和國(guó)際法的技術(shù)。

Pichai在文中寫(xiě)道，“這些不是理論概念，而是具體的標(biāo)準(zhǔn)，將積極主導(dǎo)我們的研究和產(chǎn)品開(kāi)發(fā)，并會(huì)影響我們的業(yè)務(wù)決策”。

Pichai還表示，這些原則是谷歌和人工智能未來(lái)發(fā)展的正確基礎(chǔ)。這種做法與2004年谷歌成立之初“創(chuàng)始人的信”中所提出的價(jià)值觀一致。

谷歌云CEO Diane Greene也發(fā)表了題為《Incorporating Google’s AI Principles into Google Cloud》的文章，響應(yīng)新的準(zhǔn)則。

“作惡的”P(pán)roject Maven

這篇谷歌AI新準(zhǔn)則的文章，是為了回應(yīng)之前谷歌內(nèi)部員工以及隨后公眾對(duì)谷歌與美國(guó)防部的合作項(xiàng)目Project Maven。

該項(xiàng)目旨在建立一個(gè)類似“谷歌地球”的監(jiān)測(cè)系統(tǒng)，讓五角大樓的分析師能“點(diǎn)擊建筑，查看與之相關(guān)的一切”，并為“整個(gè)城市”建立車輛、人員、土地特性和大量人群的圖像。

谷歌在2017年9月底獲得了Maven項(xiàng)目的合同，此后合作一直處于保密狀態(tài)，直到今年有員工在谷歌公司內(nèi)部溝通平臺(tái)將這件事曝光出來(lái)。部分谷歌員工幾乎是立即就站出來(lái)表示反對(duì)。之后，更有數(shù)千名員工簽署請(qǐng)?jiān)笗?shū)，要求谷歌取消該項(xiàng)目的合同，數(shù)十名員工辭職以示抗議。

事件不斷發(fā)酵，關(guān)于Project Maven是否有違谷歌成立之初立下的“不作惡”原則，討論越來(lái)越多，越來(lái)越激烈。

根據(jù)新智元此前的報(bào)道，谷歌的高層曾非常支持Maven項(xiàng)目，因?yàn)檫@將讓谷歌云在贏得更大的五角大樓合同的道路上走得更遠(yuǎn)，但他們同時(shí)也對(duì)外界如何評(píng)判谷歌參與軍事項(xiàng)目十分擔(dān)憂。

最終，谷歌云CEO Diane Greene 在上周五谷歌員工早會(huì)上宣布，Project Maven合同將于2019年到期，此后不再續(xù)簽。

谷歌已經(jīng)為Maven做了大量工作，并且取得不錯(cuò)的成果。根據(jù)Gizmodo獲取的消息，谷歌已經(jīng)構(gòu)建了一個(gè)系統(tǒng)，檢測(cè)專業(yè)圖像標(biāo)簽所遺漏的車輛；谷歌的高級(jí)工程項(xiàng)目經(jīng)理Reza Ghanadan在一封郵件中寫(xiě)道，幾個(gè)案例表明，模型對(duì)專業(yè)標(biāo)簽錯(cuò)過(guò)的車輛檢測(cè)率準(zhǔn)確率能達(dá)到90%。

谷歌仍將與美軍合作，新的探索不會(huì)減速

不過(guò)，谷歌將繼續(xù)與美國(guó)政府和軍方開(kāi)展在網(wǎng)絡(luò)安全、培訓(xùn)、退伍軍人醫(yī)療保健、搜救和軍事招聘方面合作。這家網(wǎng)絡(luò)巨頭正在爭(zhēng)取兩項(xiàng)數(shù)十億美元的國(guó)防部門(mén)辦公和云服務(wù)合同。

這些原則對(duì)公司將如何遵守規(guī)則提供了有限的細(xì)節(jié)。Pichai概述了谷歌應(yīng)用AI的7個(gè)核心原則，包括要對(duì)社會(huì)有益，可以構(gòu)建并測(cè)試安全性，避免產(chǎn)生或加強(qiáng)不公平的偏見(jiàn)等。Pichai表示，谷歌還將評(píng)估其在人工智能領(lǐng)域的工作，考察其技術(shù)“適應(yīng)有害使用”的程度。

谷歌一名要求匿名的代表坦率地表示，該公司數(shù)月來(lái)一直在制定道德準(zhǔn)則，并將聘請(qǐng)外部顧問(wèn)進(jìn)行內(nèi)部審查，以確保人工智能準(zhǔn)則得到執(zhí)行。

AI是谷歌網(wǎng)絡(luò)工具的重要組成部分，包括圖像搜索和識(shí)別，以及自動(dòng)語(yǔ)言翻譯。但這也是其未來(lái)雄心的關(guān)鍵，很多都涉及到自己的道德領(lǐng)域，包括自動(dòng)駕駛部門(mén)Waymo和谷歌Duplex系統(tǒng)，這個(gè)系統(tǒng)可以通過(guò)模仿人的聲音完成預(yù)定晚餐的任務(wù)。

但谷歌的新限制似乎并沒(méi)有減緩五角大樓的技術(shù)研究人員和工程師的速度，他們認(rèn)為其他承包商仍然會(huì)競(jìng)相幫助開(kāi)發(fā)軍事和國(guó)防技術(shù)。美國(guó)國(guó)防部高級(jí)研究計(jì)劃局副局長(zhǎng)Peter Highnam表示，沒(méi)有經(jīng)營(yíng)Maven項(xiàng)目，但因幫助發(fā)明互聯(lián)網(wǎng)而獲評(píng)的五角大樓代理機(jī)構(gòu)稱，DARPA的“有數(shù)百家（如果不是數(shù)千家）積極出價(jià)的學(xué)校和公司” AI等技術(shù)研究項(xiàng)目。

“我們的目標(biāo)，我們的目標(biāo)是創(chuàng)造和防止技術(shù)突襲。所以我們正在考慮什么是可能的，“DARPA信息創(chuàng)新辦公室副主任約翰埃弗里特周三接受采訪時(shí)說(shuō)。 “任何組織都可以自由參與這個(gè)正在進(jìn)行的探索?！?/p>

Pichai 署名文章：谷歌AI使用原則

以下為谷歌CEO Sundar Pichai今天發(fā)布的署名文章：

AI的核心是可以學(xué)習(xí)和適應(yīng)的計(jì)算機(jī)編程，它不能解決所有的問(wèn)題，但擁有巨大的潛力改善我們生活。在谷歌，我們使用AI讓產(chǎn)品更有用，從沒(méi)有垃圾郵件并且更容易撰寫(xiě)的電子郵件，到可以自然對(duì)話的數(shù)字助理，再到突出有趣內(nèi)容供你欣賞的照片。

除了我們的產(chǎn)品，我們正在使用AI來(lái)幫助人們解決緊急問(wèn)題。一對(duì)高中生正在構(gòu)建AI驅(qū)動(dòng)的傳感器來(lái)預(yù)測(cè)野外火災(zāi)的風(fēng)險(xiǎn)。農(nóng)民正在使用AI監(jiān)測(cè)牛群的健康狀況。醫(yī)生也開(kāi)始用AI來(lái)幫助診斷癌癥并預(yù)防失明。這些顯而易見(jiàn)的好處是Google大力投入人工智能研發(fā)，并通過(guò)我們的工具和開(kāi)源代碼使其他人也能普遍使用人工智能技術(shù)的原因。

我們認(rèn)識(shí)到，這種強(qiáng)大的技術(shù)對(duì)其使用也提出了同等重要的問(wèn)題。人工智能如何開(kāi)發(fā)和使用，將對(duì)未來(lái)多年的社會(huì)產(chǎn)生重大的影響。作為人工智能領(lǐng)域的領(lǐng)導(dǎo)者，我們深感重任。所以今天，我們宣布了七項(xiàng)原則來(lái)指導(dǎo)我們今后的工作。這些不是理論概念，而是具體的標(biāo)準(zhǔn)，將積極主導(dǎo)我們的研究和產(chǎn)品開(kāi)發(fā)，并會(huì)影響我們的業(yè)務(wù)決策。

我們也意識(shí)到，這個(gè)領(lǐng)域是不斷變化和不斷發(fā)展的，我們將以謙遜態(tài)度對(duì)待我們的工作，對(duì)內(nèi)對(duì)外都是如此，我們也愿意隨時(shí)間的推移調(diào)整我們的方法。

AI應(yīng)用的目標(biāo)

我們將根據(jù)以下目標(biāo)評(píng)估AI應(yīng)用。我們認(rèn)為AI應(yīng)該：

1、對(duì)社會(huì)有益

新技術(shù)的應(yīng)用范圍越來(lái)越廣，社會(huì)滲透率越來(lái)越高。人工智能的進(jìn)步將對(duì)包括醫(yī)療保健、安全、能源、運(yùn)輸、制造和娛樂(lè)在內(nèi)的各種領(lǐng)域產(chǎn)生變革性的影響。當(dāng)我們考慮AI技術(shù)的潛在發(fā)展和應(yīng)用時(shí)，我們將考慮各種社會(huì)和經(jīng)濟(jì)因素，并將在我們認(rèn)為整體可能的收益大大超過(guò)可預(yù)見(jiàn)的風(fēng)險(xiǎn)和缺點(diǎn)的情況下繼續(xù)進(jìn)行。

人工智能還增強(qiáng)了我們理解大規(guī)模內(nèi)容含義的能力。我們將努力使用AI來(lái)隨時(shí)提供高質(zhì)量和準(zhǔn)確的信息，同時(shí)繼續(xù)尊重所在國(guó)家的文化、社會(huì)和法律準(zhǔn)則。我們將繼續(xù)深入評(píng)估何時(shí)將我們的技術(shù)用于非商業(yè)情況。

2、避免制造或加強(qiáng)不公平的偏見(jiàn)

人工智能算法和數(shù)據(jù)集可以反映、加強(qiáng)或減少不公平的偏見(jiàn)。我們認(rèn)識(shí)到，區(qū)分公平和不公平的偏見(jiàn)并不總是很簡(jiǎn)單，并且在不同的文化和社會(huì)中是不同的。我們將努力避免對(duì)人們?cè)斐刹还挠绊?，特別是與種族、民族、性別、國(guó)籍、收入、性取向，能力以及政治或宗教信仰等敏感特征有關(guān)的人。

3、建立并測(cè)試安全性

我們將繼續(xù)開(kāi)發(fā)和應(yīng)用強(qiáng)大的安全措施，避免造成危害的意外結(jié)果。我們?cè)谠O(shè)計(jì)人工智能系統(tǒng)時(shí)會(huì)保持適當(dāng)謹(jǐn)慎，并根據(jù)人工智能安全研究的最佳實(shí)踐尋求開(kāi)發(fā)它們。在適當(dāng)?shù)那闆r下，我們將在受限環(huán)境中測(cè)試AI技術(shù)，并在部署后監(jiān)控其操作。

4、對(duì)人負(fù)責(zé)

我們將設(shè)計(jì)能夠提供反饋、相關(guān)解釋和說(shuō)明的AI系統(tǒng)。我們的AI技術(shù)將接受適當(dāng)?shù)娜祟愔笇?dǎo)和控制。

5、納入隱私設(shè)計(jì)原則

在開(kāi)發(fā)和使用AI技術(shù)時(shí)我們將融入隱私原則。我們將提供通知和同意，鼓勵(lì)具有隱私保護(hù)措施的架構(gòu)，并對(duì)數(shù)據(jù)的使用提供適當(dāng)?shù)耐该鞫群涂刂啤?/p>

6、堅(jiān)持科學(xué)卓越的高標(biāo)準(zhǔn)

技術(shù)創(chuàng)新的根本在于科學(xué)方法和對(duì)開(kāi)放式調(diào)查的努力，學(xué)術(shù)嚴(yán)謹(jǐn)、誠(chéng)信和合作。人工智能工具有可能在生物學(xué)、化學(xué)、醫(yī)學(xué)和環(huán)境科學(xué)等關(guān)鍵領(lǐng)域開(kāi)拓科學(xué)研究和知識(shí)的新領(lǐng)域。我們致力于促進(jìn)人工智能的發(fā)展，我們也追求高標(biāo)準(zhǔn)的科學(xué)卓越。

我們將與一系列利益相關(guān)者合作，以科學(xué)嚴(yán)謹(jǐn)和多學(xué)科的方式來(lái)全面引領(lǐng)領(lǐng)域發(fā)展。我們將通過(guò)發(fā)布教育材料，最佳實(shí)踐和研究，負(fù)責(zé)任地分享人工智能知識(shí)，使更多人能夠開(kāi)發(fā)有用的人工智能應(yīng)用。

7、為符合這些原則的用途提供

許多技術(shù)都有多種用途。我們將努力限制可能有害或?yàn)E用的應(yīng)用程序。在開(kāi)發(fā)和部署AI技術(shù)時(shí)，我們將根據(jù)以下因素評(píng)估可能的用途：

主要目的和用途：技術(shù)和應(yīng)用的主要目的和可能的用途，包括解決方案與有害用途的相關(guān)度或適用程度

性質(zhì)和唯一性：我們的技術(shù)是獨(dú)一無(wú)二的還是更普遍可用的

規(guī)模：這項(xiàng)技術(shù)的使用是否會(huì)產(chǎn)生大規(guī)模的影響

Google參與的性質(zhì)：我們是提供通用的工具，為客戶集成工具，還是開(kāi)發(fā)定制的解決方案

我們不會(huì)追求的AI應(yīng)用

除了上述目標(biāo)之外，我們不會(huì)在以下應(yīng)用領(lǐng)域設(shè)計(jì)或部署AI：

已造成或可能造成整體性傷害的技術(shù)。在存在重大傷害風(fēng)險(xiǎn)的情況下，我們只會(huì)在我們認(rèn)為好處遠(yuǎn)遠(yuǎn)超過(guò)風(fēng)險(xiǎn)的情況下繼續(xù)進(jìn)行，并且會(huì)納入適當(dāng)?shù)陌踩拗啤?/p>

武器或其他主要目的是導(dǎo)致或直接造成人身傷害的技術(shù)。

收集或使用信息的技術(shù)違反國(guó)際公認(rèn)的規(guī)范。

其目的與國(guó)際法和人權(quán)普遍接受的原則相違背的技術(shù)。

我們希望明確的是，雖然我們沒(méi)有在開(kāi)發(fā)用于武器的AI，但我們將繼續(xù)在其他許多領(lǐng)域與政府和軍方合作，包括網(wǎng)絡(luò)安全、培訓(xùn)、軍人招募、退伍軍人醫(yī)療、搜索和救援。這些合作是很重要的，我們將積極尋找更多方法來(lái)加強(qiáng)這些組織的關(guān)鍵工作，并確保服役人員和平民的安全。

長(zhǎng)期的人工智能

雖然這是我們選擇的應(yīng)用人工智能的方式，但我們明白，在這場(chǎng)討論中還有許多觀點(diǎn)存在空間。隨著人工智能技術(shù)的進(jìn)步，我們將與一系列利益相關(guān)者合作，采用科學(xué)嚴(yán)謹(jǐn)、多學(xué)科方法提升這一領(lǐng)域的領(lǐng)導(dǎo)力。我們將繼續(xù)分享我們?cè)诟倪M(jìn)AI技術(shù)和實(shí)踐方面的經(jīng)驗(yàn)。

我們相信這些原則是我們公司和人工智能未來(lái)發(fā)展的正確基礎(chǔ)。這種做法與2004年我們最初的“創(chuàng)始人的信”中提出的價(jià)值觀是一致的。在那封信中，我們明確表示，我們打算從長(zhǎng)遠(yuǎn)的角度出發(fā)，即使這意味著要做出短期的權(quán)衡。這一理念我們當(dāng)時(shí)說(shuō)過(guò)，現(xiàn)在我們確信了。