今天,谷歌CEO Sundar Pichai發(fā)表了署名題為《AI at Google: our principles》的文章,列出7大指導(dǎo)原則,闡述谷歌在研發(fā)和使用AI時(shí)將遵循的目標(biāo)。Pichai還明確列出了谷歌“不會(huì)追求的AI應(yīng)用”,包括可能造成危害的技術(shù)、武器等。但是,谷歌并不會(huì)終止與美軍的合作。
上周五,谷歌宣布與國(guó)防部Maven合同在明年到期后不再續(xù)約,并表示將發(fā)布關(guān)于使用AI的新道德準(zhǔn)則。
今天,谷歌CEO Sundar Pichai 發(fā)表了署名題為《AI at Google: our principles》的文章,列出7大指導(dǎo)原則,闡述谷歌在研發(fā)和使用AI時(shí)將遵循的目標(biāo)。
不僅如此,Pichai 還明確列出了谷歌“不會(huì)追求的AI應(yīng)用”,包括可能造成危害的技術(shù)、武器或其他以人身傷害為主要目的的技術(shù)、違反國(guó)際公約收集或使用信息的技術(shù),以及違反人權(quán)和國(guó)際法的技術(shù)。
Pichai在文中寫(xiě)道,“這些不是理論概念,而是具體的標(biāo)準(zhǔn),將積極主導(dǎo)我們的研究和產(chǎn)品開(kāi)發(fā),并會(huì)影響我們的業(yè)務(wù)決策”。
Pichai還表示,這些原則是谷歌和人工智能未來(lái)發(fā)展的正確基礎(chǔ)。這種做法與2004年谷歌成立之初“創(chuàng)始人的信”中所提出的價(jià)值觀一致。
谷歌云CEO Diane Greene也發(fā)表了題為《Incorporating Google’s AI Principles into Google Cloud》的文章,響應(yīng)新的準(zhǔn)則。
“作惡的”P(pán)roject Maven
這篇谷歌AI新準(zhǔn)則的文章,是為了回應(yīng)之前谷歌內(nèi)部員工以及隨后公眾對(duì)谷歌與美國(guó)防部的合作項(xiàng)目Project Maven。
該項(xiàng)目旨在建立一個(gè)類似“谷歌地球”的監(jiān)測(cè)系統(tǒng),讓五角大樓的分析師能“點(diǎn)擊建筑,查看與之相關(guān)的一切”,并為“整個(gè)城市”建立車輛、人員、土地特性和大量人群的圖像。
谷歌在2017年9月底獲得了Maven項(xiàng)目的合同,此后合作一直處于保密狀態(tài),直到今年有員工在谷歌公司內(nèi)部溝通平臺(tái)將這件事曝光出來(lái)。部分谷歌員工幾乎是立即就站出來(lái)表示反對(duì)。之后,更有數(shù)千名員工簽署請(qǐng)?jiān)笗?shū),要求谷歌取消該項(xiàng)目的合同,數(shù)十名員工辭職以示抗議。
事件不斷發(fā)酵,關(guān)于Project Maven是否有違谷歌成立之初立下的“不作惡”原則,討論越來(lái)越多,越來(lái)越激烈。
根據(jù)新智元此前的報(bào)道,谷歌的高層曾非常支持Maven項(xiàng)目,因?yàn)檫@將讓谷歌云在贏得更大的五角大樓合同的道路上走得更遠(yuǎn),但他們同時(shí)也對(duì)外界如何評(píng)判谷歌參與軍事項(xiàng)目十分擔(dān)憂。
最終,谷歌云CEO Diane Greene 在上周五谷歌員工早會(huì)上宣布,Project Maven合同將于2019年到期,此后不再續(xù)簽。
谷歌已經(jīng)為Maven做了大量工作,并且取得不錯(cuò)的成果。根據(jù)Gizmodo獲取的消息,谷歌已經(jīng)構(gòu)建了一個(gè)系統(tǒng),檢測(cè)專業(yè)圖像標(biāo)簽所遺漏的車輛;谷歌的高級(jí)工程項(xiàng)目經(jīng)理Reza Ghanadan在一封郵件中寫(xiě)道,幾個(gè)案例表明,模型對(duì)專業(yè)標(biāo)簽錯(cuò)過(guò)的車輛檢測(cè)率準(zhǔn)確率能達(dá)到90%。
谷歌仍將與美軍合作,新的探索不會(huì)減速
不過(guò),谷歌將繼續(xù)與美國(guó)政府和軍方開(kāi)展在網(wǎng)絡(luò)安全、培訓(xùn)、退伍軍人醫(yī)療保健、搜救和軍事招聘方面合作。這家網(wǎng)絡(luò)巨頭正在爭(zhēng)取兩項(xiàng)數(shù)十億美元的國(guó)防部門(mén)辦公和云服務(wù)合同。
這些原則對(duì)公司將如何遵守規(guī)則提供了有限的細(xì)節(jié)。Pichai概述了谷歌應(yīng)用AI的7個(gè)核心原則,包括要對(duì)社會(huì)有益,可以構(gòu)建并測(cè)試安全性,避免產(chǎn)生或加強(qiáng)不公平的偏見(jiàn)等。Pichai表示,谷歌還將評(píng)估其在人工智能領(lǐng)域的工作,考察其技術(shù)“適應(yīng)有害使用”的程度。
谷歌一名要求匿名的代表坦率地表示,該公司數(shù)月來(lái)一直在制定道德準(zhǔn)則,并將聘請(qǐng)外部顧問(wèn)進(jìn)行內(nèi)部審查,以確保人工智能準(zhǔn)則得到執(zhí)行。
AI是谷歌網(wǎng)絡(luò)工具的重要組成部分,包括圖像搜索和識(shí)別,以及自動(dòng)語(yǔ)言翻譯。但這也是其未來(lái)雄心的關(guān)鍵,很多都涉及到自己的道德領(lǐng)域,包括自動(dòng)駕駛部門(mén)Waymo和谷歌Duplex系統(tǒng),這個(gè)系統(tǒng)可以通過(guò)模仿人的聲音完成預(yù)定晚餐的任務(wù)。
但谷歌的新限制似乎并沒(méi)有減緩五角大樓的技術(shù)研究人員和工程師的速度,他們認(rèn)為其他承包商仍然會(huì)競(jìng)相幫助開(kāi)發(fā)軍事和國(guó)防技術(shù)。美國(guó)國(guó)防部高級(jí)研究計(jì)劃局副局長(zhǎng)Peter Highnam表示,沒(méi)有經(jīng)營(yíng)Maven項(xiàng)目,但因幫助發(fā)明互聯(lián)網(wǎng)而獲評(píng)的五角大樓代理機(jī)構(gòu)稱,DARPA的“有數(shù)百家(如果不是數(shù)千家)積極出價(jià)的學(xué)校和公司” AI等技術(shù)研究項(xiàng)目。
“我們的目標(biāo),我們的目標(biāo)是創(chuàng)造和防止技術(shù)突襲。所以我們正在考慮什么是可能的,“DARPA信息創(chuàng)新辦公室副主任約翰埃弗里特周三接受采訪時(shí)說(shuō)。 “任何組織都可以自由參與這個(gè)正在進(jìn)行的探索?!?/p>
Pichai 署名文章:谷歌AI使用原則
以下為谷歌CEO Sundar Pichai今天發(fā)布的署名文章:
AI的核心是可以學(xué)習(xí)和適應(yīng)的計(jì)算機(jī)編程,它不能解決所有的問(wèn)題,但擁有巨大的潛力改善我們生活。在谷歌,我們使用AI讓產(chǎn)品更有用,從沒(méi)有垃圾郵件并且更容易撰寫(xiě)的電子郵件,到可以自然對(duì)話的數(shù)字助理,再到突出有趣內(nèi)容供你欣賞的照片。
除了我們的產(chǎn)品,我們正在使用AI來(lái)幫助人們解決緊急問(wèn)題。一對(duì)高中生正在構(gòu)建AI驅(qū)動(dòng)的傳感器來(lái)預(yù)測(cè)野外火災(zāi)的風(fēng)險(xiǎn)。農(nóng)民正在使用AI監(jiān)測(cè)牛群的健康狀況。醫(yī)生也開(kāi)始用AI來(lái)幫助診斷癌癥并預(yù)防失明。這些顯而易見(jiàn)的好處是Google大力投入人工智能研發(fā),并通過(guò)我們的工具和開(kāi)源代碼使其他人也能普遍使用人工智能技術(shù)的原因。
我們認(rèn)識(shí)到,這種強(qiáng)大的技術(shù)對(duì)其使用也提出了同等重要的問(wèn)題。人工智能如何開(kāi)發(fā)和使用,將對(duì)未來(lái)多年的社會(huì)產(chǎn)生重大的影響。作為人工智能領(lǐng)域的領(lǐng)導(dǎo)者,我們深感重任。所以今天,我們宣布了七項(xiàng)原則來(lái)指導(dǎo)我們今后的工作。這些不是理論概念,而是具體的標(biāo)準(zhǔn),將積極主導(dǎo)我們的研究和產(chǎn)品開(kāi)發(fā),并會(huì)影響我們的業(yè)務(wù)決策。
我們也意識(shí)到,這個(gè)領(lǐng)域是不斷變化和不斷發(fā)展的,我們將以謙遜態(tài)度對(duì)待我們的工作,對(duì)內(nèi)對(duì)外都是如此,我們也愿意隨時(shí)間的推移調(diào)整我們的方法。
AI應(yīng)用的目標(biāo)
我們將根據(jù)以下目標(biāo)評(píng)估AI應(yīng)用。我們認(rèn)為AI應(yīng)該:
1、對(duì)社會(huì)有益
新技術(shù)的應(yīng)用范圍越來(lái)越廣,社會(huì)滲透率越來(lái)越高。人工智能的進(jìn)步將對(duì)包括醫(yī)療保健、安全、能源、運(yùn)輸、制造和娛樂(lè)在內(nèi)的各種領(lǐng)域產(chǎn)生變革性的影響。當(dāng)我們考慮AI技術(shù)的潛在發(fā)展和應(yīng)用時(shí),我們將考慮各種社會(huì)和經(jīng)濟(jì)因素,并將在我們認(rèn)為整體可能的收益大大超過(guò)可預(yù)見(jiàn)的風(fēng)險(xiǎn)和缺點(diǎn)的情況下繼續(xù)進(jìn)行。
人工智能還增強(qiáng)了我們理解大規(guī)模內(nèi)容含義的能力。我們將努力使用AI來(lái)隨時(shí)提供高質(zhì)量和準(zhǔn)確的信息,同時(shí)繼續(xù)尊重所在國(guó)家的文化、社會(huì)和法律準(zhǔn)則。我們將繼續(xù)深入評(píng)估何時(shí)將我們的技術(shù)用于非商業(yè)情況。
2、避免制造或加強(qiáng)不公平的偏見(jiàn)
人工智能算法和數(shù)據(jù)集可以反映、加強(qiáng)或減少不公平的偏見(jiàn)。我們認(rèn)識(shí)到,區(qū)分公平和不公平的偏見(jiàn)并不總是很簡(jiǎn)單,并且在不同的文化和社會(huì)中是不同的。我們將努力避免對(duì)人們?cè)斐刹还挠绊?,特別是與種族、民族、性別、國(guó)籍、收入、性取向,能力以及政治或宗教信仰等敏感特征有關(guān)的人。
3、建立并測(cè)試安全性
我們將繼續(xù)開(kāi)發(fā)和應(yīng)用強(qiáng)大的安全措施,避免造成危害的意外結(jié)果。我們?cè)谠O(shè)計(jì)人工智能系統(tǒng)時(shí)會(huì)保持適當(dāng)謹(jǐn)慎,并根據(jù)人工智能安全研究的最佳實(shí)踐尋求開(kāi)發(fā)它們。在適當(dāng)?shù)那闆r下,我們將在受限環(huán)境中測(cè)試AI技術(shù),并在部署后監(jiān)控其操作。
4、對(duì)人負(fù)責(zé)
我們將設(shè)計(jì)能夠提供反饋、相關(guān)解釋和說(shuō)明的AI系統(tǒng)。我們的AI技術(shù)將接受適當(dāng)?shù)娜祟愔笇?dǎo)和控制。
5、納入隱私設(shè)計(jì)原則
在開(kāi)發(fā)和使用AI技術(shù)時(shí)我們將融入隱私原則。我們將提供通知和同意,鼓勵(lì)具有隱私保護(hù)措施的架構(gòu),并對(duì)數(shù)據(jù)的使用提供適當(dāng)?shù)耐该鞫群涂刂啤?/p>
6、堅(jiān)持科學(xué)卓越的高標(biāo)準(zhǔn)
技術(shù)創(chuàng)新的根本在于科學(xué)方法和對(duì)開(kāi)放式調(diào)查的努力,學(xué)術(shù)嚴(yán)謹(jǐn)、誠(chéng)信和合作。人工智能工具有可能在生物學(xué)、化學(xué)、醫(yī)學(xué)和環(huán)境科學(xué)等關(guān)鍵領(lǐng)域開(kāi)拓科學(xué)研究和知識(shí)的新領(lǐng)域。我們致力于促進(jìn)人工智能的發(fā)展,我們也追求高標(biāo)準(zhǔn)的科學(xué)卓越。
我們將與一系列利益相關(guān)者合作,以科學(xué)嚴(yán)謹(jǐn)和多學(xué)科的方式來(lái)全面引領(lǐng)領(lǐng)域發(fā)展。我們將通過(guò)發(fā)布教育材料,最佳實(shí)踐和研究,負(fù)責(zé)任地分享人工智能知識(shí),使更多人能夠開(kāi)發(fā)有用的人工智能應(yīng)用。
7、為符合這些原則的用途提供
許多技術(shù)都有多種用途。我們將努力限制可能有害或?yàn)E用的應(yīng)用程序。在開(kāi)發(fā)和部署AI技術(shù)時(shí),我們將根據(jù)以下因素評(píng)估可能的用途:
主要目的和用途:技術(shù)和應(yīng)用的主要目的和可能的用途,包括解決方案與有害用途的相關(guān)度或適用程度
性質(zhì)和唯一性:我們的技術(shù)是獨(dú)一無(wú)二的還是更普遍可用的
規(guī)模:這項(xiàng)技術(shù)的使用是否會(huì)產(chǎn)生大規(guī)模的影響
Google參與的性質(zhì):我們是提供通用的工具,為客戶集成工具,還是開(kāi)發(fā)定制的解決方案
我們不會(huì)追求的AI應(yīng)用
除了上述目標(biāo)之外,我們不會(huì)在以下應(yīng)用領(lǐng)域設(shè)計(jì)或部署AI:
已造成或可能造成整體性傷害的技術(shù)。在存在重大傷害風(fēng)險(xiǎn)的情況下,我們只會(huì)在我們認(rèn)為好處遠(yuǎn)遠(yuǎn)超過(guò)風(fēng)險(xiǎn)的情況下繼續(xù)進(jìn)行,并且會(huì)納入適當(dāng)?shù)陌踩拗啤?/p>
武器或其他主要目的是導(dǎo)致或直接造成人身傷害的技術(shù)。
收集或使用信息的技術(shù)違反國(guó)際公認(rèn)的規(guī)范。
其目的與國(guó)際法和人權(quán)普遍接受的原則相違背的技術(shù)。
我們希望明確的是,雖然我們沒(méi)有在開(kāi)發(fā)用于武器的AI,但我們將繼續(xù)在其他許多領(lǐng)域與政府和軍方合作,包括網(wǎng)絡(luò)安全、培訓(xùn)、軍人招募、退伍軍人醫(yī)療、搜索和救援。這些合作是很重要的,我們將積極尋找更多方法來(lái)加強(qiáng)這些組織的關(guān)鍵工作,并確保服役人員和平民的安全。
長(zhǎng)期的人工智能
雖然這是我們選擇的應(yīng)用人工智能的方式,但我們明白,在這場(chǎng)討論中還有許多觀點(diǎn)存在空間。隨著人工智能技術(shù)的進(jìn)步,我們將與一系列利益相關(guān)者合作,采用科學(xué)嚴(yán)謹(jǐn)、多學(xué)科方法提升這一領(lǐng)域的領(lǐng)導(dǎo)力。我們將繼續(xù)分享我們?cè)诟倪M(jìn)AI技術(shù)和實(shí)踐方面的經(jīng)驗(yàn)。
我們相信這些原則是我們公司和人工智能未來(lái)發(fā)展的正確基礎(chǔ)。這種做法與2004年我們最初的“創(chuàng)始人的信”中提出的價(jià)值觀是一致的。在那封信中,我們明確表示,我們打算從長(zhǎng)遠(yuǎn)的角度出發(fā),即使這意味著要做出短期的權(quán)衡。這一理念我們當(dāng)時(shí)說(shuō)過(guò),現(xiàn)在我們確信了。
-
谷歌
+關(guān)注
關(guān)注
27文章
6105瀏覽量
104796 -
AI
+關(guān)注
關(guān)注
87文章
29395瀏覽量
267689
原文標(biāo)題:【絕不開(kāi)發(fā)武器】谷歌發(fā)布AI 使用七原則,但仍與美國(guó)防部合作
文章出處:【微信號(hào):AI_era,微信公眾號(hào):新智元】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論