人工智能也會(huì)有偏差

機(jī)器學(xué)習(xí)是當(dāng)今技術(shù)最重要的基本趨勢(shì)之一，也是未來(lái)十年科技將在更廣闊的世界中改變事物的主要方式之一。作為其中的一部分，機(jī)器學(xué)習(xí)的各個(gè)方面引起關(guān)注 - 例如，它對(duì)就業(yè)的潛在影響，以及它用于我們可能認(rèn)為不道德的目的，例如它可能給予壓迫性政府的新能力。另一個(gè)，也就是這篇文章的主題，是人工智能偏差的問(wèn)題。

什么是'AI Bias偏差'？

“原始數(shù)據(jù)既是矛盾又是壞主意; 相反，數(shù)據(jù)應(yīng)該小心烹飪。“杰弗里鮑克

直到2013年左右，如果你想制作一個(gè)可以識(shí)別照片中的貓的軟件系統(tǒng)，你就會(huì)編寫(xiě)邏輯步驟。你會(huì)做一些尋找圖像邊緣的東西，一個(gè)眼睛探測(cè)器，一個(gè)用于皮毛的紋理分析器，并嘗試計(jì)算腿部等等，然后將它們?nèi)抗潭ㄔ谝黄?.....它永遠(yuǎn)不會(huì)真的很棒。從概念上講，這就像試圖制造機(jī)械馬一樣 - 理論上這是可能的，但在實(shí)踐中，復(fù)雜性太大，我們無(wú)法描述。在沒(méi)有工作模型的情況下，您最終會(huì)得到數(shù)百或數(shù)千條手寫(xiě)規(guī)則。

通過(guò)機(jī)器學(xué)習(xí)，我們不使用手寫(xiě)規(guī)則來(lái)識(shí)別X或Y。

相反，我們采用X的一千個(gè)例子和Y的一千個(gè)例子，我們讓計(jì)算機(jī)根據(jù)這些的統(tǒng)計(jì)分析建立一個(gè)模型。例子。然后我們可以給該模型一個(gè)新的數(shù)據(jù)點(diǎn)，并且它具有給定的準(zhǔn)確度，是否適合示例集X或示例集Y.機(jī)器學(xué)習(xí)使用數(shù)據(jù)生成模型，而不是人類編寫(xiě)模型。這產(chǎn)生了驚人的好結(jié)果，特別是對(duì)于識(shí)別或模式發(fā)現(xiàn)問(wèn)題，這就是為什么整個(gè)科技行業(yè)正在圍繞機(jī)器學(xué)習(xí)重新制作的原因。

然而，有一個(gè)問(wèn)題。在現(xiàn)實(shí)世界中，你的千（或十萬(wàn)或百萬(wàn)）X和Y的例子也包含A，B，J，L，O，R和P.這些可能不均勻分布，并且它們可能足夠突出，你的AI系統(tǒng)對(duì)L和R的關(guān)注度卻超過(guò)了X。

這在實(shí)踐中意味著什么？我最喜歡的例子是圖像識(shí)別系統(tǒng)傾向于觀看草山的照片并指出“羊”。大多數(shù)作為“綿羊”的例子的照片都是在草山上拍攝的，因?yàn)槟鞘蔷d羊往往生活的地方，而且圖像中的草比白色蓬松的小東西更加突出。

這里要理解的一個(gè)重要事項(xiàng)是系統(tǒng)沒(méi)有語(yǔ)義去理解它正在看的是什么。我們查看像素網(wǎng)格并將其轉(zhuǎn)換為綿羊，皮膚或標(biāo)尺，系統(tǒng)只看到一串?dāng)?shù)字。它沒(méi)有看到3D空間，物體，紋理或綿羊。它只是看到數(shù)據(jù)中的模式。

同時(shí)，嘗試診斷此類問(wèn)題的挑戰(zhàn)在于您的機(jī)器學(xué)習(xí)系統(tǒng)生成的模型（神經(jīng)網(wǎng)絡(luò)）包含數(shù)千或數(shù)十萬(wàn)個(gè)節(jié)點(diǎn)。沒(méi)有簡(jiǎn)單的方法來(lái)查看模型內(nèi)部，看看它是如何做出決定的 - 如果可以的話，那么這個(gè)過(guò)程很簡(jiǎn)單，你首先就不需要ML了，你可以自己編寫(xiě)規(guī)則。人們擔(dān)心ML是一個(gè)“黑匣子”。（正如我稍后解釋的那樣，這個(gè)問(wèn)題經(jīng)常被夸大了。）

那么什么是“AI偏差”或“機(jī)器學(xué)習(xí)偏差”問(wèn)題？用于查找數(shù)據(jù)模式的系統(tǒng)可能會(huì)找到錯(cuò)誤的模式，您可能也沒(méi)有意識(shí)到。

AI偏差場(chǎng)景用例

這個(gè)問(wèn)題可以表現(xiàn)出來(lái)的最明顯和最直接的關(guān)注點(diǎn)是人類的多樣性。據(jù)報(bào)道，亞馬遜最近曾嘗試建立一個(gè)機(jī)器學(xué)習(xí)系統(tǒng)來(lái)篩選簡(jiǎn)歷以進(jìn)行招聘。由于亞馬遜目前的員工群體偏向于男性，因此“成功招聘”的例子在機(jī)械上也會(huì)使男性產(chǎn)生偏差，因此，該系統(tǒng)選擇了簡(jiǎn)歷。亞馬遜發(fā)現(xiàn)了這一點(diǎn)，該系統(tǒng)從未投入生產(chǎn)。

這個(gè)例子中最重要的部分是據(jù)報(bào)道，即使在簡(jiǎn)歷上沒(méi)有明確標(biāo)明性別，該系統(tǒng)也表現(xiàn)出這種傾斜。該系統(tǒng)在其他事物中看到了“成功員工”樣本集中的模式 - 例如，女性可能會(huì)使用不同的詞語(yǔ)來(lái)描述成就，或者在學(xué)校中進(jìn)行過(guò)不同的體育運(yùn)動(dòng)。當(dāng)然，該系統(tǒng)不知道什么是冰球，也不知道人們是什么，也不知道“成功”是什么 - 它只是對(duì)文本進(jìn)行統(tǒng)計(jì)分析。但是它所看到的模式并不一定是人類會(huì)注意到的東西。

它變得更糟。一個(gè)非常善于發(fā)現(xiàn)蒼白皮膚上的皮膚癌的機(jī)器學(xué)習(xí)系統(tǒng)可能更難以在深色皮膚上發(fā)現(xiàn)皮膚癌，反之亦然，可能不是因?yàn)闃颖局械钠?，而是因?yàn)槟赡苄枰圆煌姆绞綐?gòu)建模型首先要挑選出不同的特征。

即使在像圖像識(shí)別這樣的狹窄應(yīng)用中，機(jī)器學(xué)習(xí)系統(tǒng)也是不可互換的。您必須調(diào)整系統(tǒng)的結(jié)構(gòu)，有時(shí)只是通過(guò)反復(fù)試驗(yàn)，以便善于發(fā)現(xiàn)您感興趣的數(shù)據(jù)中的特定功能，直到達(dá)到所需的準(zhǔn)確度。但是你可能沒(méi)有意識(shí)到系統(tǒng)對(duì)于一組而言準(zhǔn)確率為98％，但對(duì)于另一組而言只有91％準(zhǔn)確（即使該準(zhǔn)確度仍然超過(guò)人類分析）。

我們將使用ML來(lái)做很多事情，樣本偏差將成為所有這些問(wèn)題的一部分考慮因素。同樣，即使您與人合作，數(shù)據(jù)中的偏差也可能與人無(wú)關(guān)。

AI偏差管理

我們?cè)撛趺崔k？您可以將現(xiàn)場(chǎng)思維分為三個(gè)方面：

在訓(xùn)練數(shù)據(jù)的收集和管理中的方法嚴(yán)謹(jǐn)性

用于分析和診斷模型行為的技術(shù)工具。

在產(chǎn)品中部署ML的培訓(xùn)，教育和謹(jǐn)慎。

樣板偏差關(guān)鍵是來(lái)自于我們自己先驗(yàn)地可能對(duì)不同的人群數(shù)據(jù)有偏見(jiàn)。

在這種情況下，我經(jīng)常將機(jī)器學(xué)習(xí)與數(shù)據(jù)庫(kù)進(jìn)行比較，特別是關(guān)系數(shù)據(jù)庫(kù) - 一種新的基礎(chǔ)技術(shù)，它改變了計(jì)算機(jī)科學(xué)的可能性，改變了更廣闊的世界，成為了所有東西的一部分，我們現(xiàn)在使用一直沒(méi)有注意到。

但數(shù)據(jù)庫(kù)也存在問(wèn)題，而且問(wèn)題具有相同的特征：系統(tǒng)可能建立在錯(cuò)誤的假設(shè)或糟糕的數(shù)據(jù)之上，一直使用它的人很難意識(shí)到這點(diǎn)更不會(huì)去質(zhì)疑。

比如稅務(wù)系統(tǒng)中如果登記你的名字寫(xiě)錯(cuò)了，更容易的是讓改變你的名字，而不是讓他們修改數(shù)據(jù)庫(kù)中的拼寫(xiě)字母，這被認(rèn)為是SQL固有的技術(shù)問(wèn)題，Oracle的執(zhí)行失敗，或大型官僚機(jī)構(gòu)的制度性失敗？如何輕松地確定部署系統(tǒng)的確切過(guò)程，無(wú)法修復(fù)拼寫(xiě)錯(cuò)誤，或者知道在人們開(kāi)始抱怨之前已經(jīng)完成了這個(gè)操作？

所有這一切都是說(shuō)，ML偏見(jiàn)會(huì)以與過(guò)去問(wèn)題大致相同的方式引起問(wèn)題，并且可以解決和發(fā)現(xiàn)，或者不會(huì)，與過(guò)去大致相同的程度。因此，人工智能偏見(jiàn)導(dǎo)致最容易想象的傷害的情景可能不是來(lái)自主要機(jī)構(gòu)的主要研究人員。相反，它是第三層技術(shù)承包商或軟件供應(yīng)商，它將開(kāi)源組件，圖書(shū)館和工具中的某些內(nèi)容與其真正理解的東西聯(lián)系在一起，然后將其出售給在貼紙上看到“AI”的不熟練買家。不要問(wèn)正確的問(wèn)題，把它交給最低工資的員工，并告訴他們做'AI'所說(shuō)的任何事情。這是數(shù)據(jù)庫(kù)發(fā)生的事情。這不是特別是AI問(wèn)題，甚至是“軟件”問(wèn)題。?

結(jié)論

“機(jī)器學(xué)習(xí)可以做任何你可以訓(xùn)練狗去做的事情 - 但你從來(lái)都不能完全確定你訓(xùn)練狗去做什么?！?/p>

我經(jīng)常認(rèn)為“人工智能”這個(gè)詞在這樣的對(duì)話中是無(wú)用的。它創(chuàng)造了我們實(shí)際創(chuàng)造的大部分錯(cuò)誤印象，這些只是機(jī)器，將它們與洗衣機(jī)進(jìn)行比較會(huì)更有用。在洗衣服時(shí)，洗衣機(jī)比人類要好得多，但是如果你把洗碗機(jī)放在洗衣機(jī)而不是衣服上并按下開(kāi)始，它就會(huì)洗掉它們。他們甚至?xí)兊酶蓛?。但這不是你想要的結(jié)果，也不會(huì)是因?yàn)橄到y(tǒng)偏向于菜肴。洗衣機(jī)不知道什么衣服或餐具 - 它只是一個(gè)自動(dòng)化，它在概念上與以前的任何自動(dòng)化浪潮都沒(méi)有什么不同。

也就是說(shuō)，就像汽車，飛機(jī)或數(shù)據(jù)庫(kù)一樣，這些系統(tǒng)既強(qiáng)大又極其有限，完全取決于人們?nèi)绾问褂眠@些系統(tǒng)，以及用戶的好壞，以及受過(guò)良好教育或無(wú)知的人這些系統(tǒng)是如何工作的。

因此，說(shuō)'人工智能是數(shù)學(xué)，所以它不會(huì)有偏差'是完全錯(cuò)誤的。ML在數(shù)據(jù)中找到模式 - 哪些模式取決于數(shù)據(jù)，數(shù)據(jù)取決于我們，我們用它做什么取決于我們。機(jī)器學(xué)習(xí)在做某些事情方面要比人們好得多，就像一只狗在尋找毒品方面要比人們好得多，但你不會(huì)因狗的證據(jù)而定罪。而且狗比任何機(jī)器學(xué)習(xí)都聰明得多。