了解AI失敗的三個關(guān)鍵領(lǐng)域：隱性偏見，不良數(shù)據(jù)和期望

飛機(jī)可接受的故障率是多少？好吧，這不是零 ……無論我們多么想相信其他方式。有一個數(shù)字，但它是一個很小的數(shù)字。在機(jī)器，計算機(jī)，人工智能等方面，它們是不完美的。會犯錯誤。推薦不當(dāng)。人工智能永遠(yuǎn)不會完美。這并不意味著它們不提供價值。人們需要了解機(jī)器為什么會出錯，并據(jù)此設(shè)定自己的信念。這意味著了解AI失敗的三個關(guān)鍵領(lǐng)域：隱性偏見，不良數(shù)據(jù)和期望。

第一個挑戰(zhàn)是隱性偏見，即人們對云的思想和行為的無意識感知?？紤]一下，最近關(guān)于種族正義和警察暴行的抗議活動以及“ 黑人生活至關(guān)重要”的有力信息?！陡２妓埂罚‵orbes）文章AI屈膝：法律下的改善平等待遇的行動，很好地說明了隱性偏見如何在歧視中發(fā)揮作用，以及使用AI減少對我們的偏見有多困難（但并非不可能）執(zhí)法和司法系統(tǒng)。人工智能向人學(xué)習(xí)。如果隱性偏見正在訓(xùn)練中，則AI將學(xué)習(xí)該偏見。此外，當(dāng)AI執(zhí)行工作時，該工作將反映這種偏見……即使該工作是為了社會公益。

以Allegheny家庭篩選工具為例。它旨在預(yù)測哪些福利兒童可能會受到養(yǎng)父母虐待的威脅。但是，此解決方案的最初推出面臨一些挑戰(zhàn)。當(dāng)?shù)氐娜祟惙?wù)部承認(rèn)該工具可能存在種族和收入偏見。疏忽之類的誘因常常被生活在貧困中的寄養(yǎng)父母與注意力不集中或虐待相聯(lián)系而混淆或誤解。自從學(xué)習(xí)了這些問題以來，采取了巨大的措施來減少e篩選工具中的隱性偏差。消除困難得多。當(dāng)談到偏見時，人們?nèi)绾翁幚砦粗奈粗獢?shù)？如何處理社會環(huán)境？“正確”或“公平”行為是什么意思？如果人們無法識別，定義和解決這些問題，那么他們將如何教機(jī)器？這是一個主要的驅(qū)動程序，由于隱性偏見，AI將是不完美的。

第二個挑戰(zhàn)是數(shù)據(jù)。數(shù)據(jù)是人工智能的動力。機(jī)器通過大量的真實(shí)數(shù)據(jù)（即如何制定決策的規(guī)則，而不是決策本身）進(jìn)行訓(xùn)練，并從大量大數(shù)據(jù)中進(jìn)行訓(xùn)練，以學(xué)習(xí)數(shù)據(jù)中的模式和關(guān)系。如果我們的數(shù)據(jù)不完整或有缺陷，那么人工智能將無法很好地學(xué)習(xí)?？紤]COVID-19。約翰·霍普金斯（John Hopkins），COVID追蹤項(xiàng)目，美國疾病控制中心（CDC）和世界衛(wèi)生組織全部報告不同的數(shù)字。有了這樣的變化，人工智能很難從數(shù)據(jù)中閃現(xiàn)出有意義的模式，更不用說找到那些隱藏的見解了。更具挑戰(zhàn)性的是，不完整或錯誤的數(shù)據(jù)該怎么辦？想象一下，教一個關(guān)于醫(yī)療保健的AI，但只提供有關(guān)女性健康的數(shù)據(jù)。這阻礙了我們?nèi)绾卧卺t(yī)療保健中使用人工智能。

隨之而來的挑戰(zhàn)是人們可能會提供過多的數(shù)據(jù)。這可能無關(guān)緊要，毫無意義，甚至?xí)稚⒆⒁饬??？紤]一下IBM是何時讓W(xué)atson閱讀《城市詞典》的，然后它無法區(qū)分何時使用普通語言還是使用語和罵人的單詞。問題變得如此嚴(yán)重，以至于IBM必須從Watson的內(nèi)存中刪除Urban Dictionary。同樣，一個AI系統(tǒng)需要聽大約1億個單詞才能流利使用一種語言。然而，一個人類孩子似乎只需要大約1500萬個單詞就能流利。這意味著我們可能不知道什么數(shù)據(jù)有意義。因此，AI培訓(xùn)師可能實(shí)際上專注于多余的信息，這可能導(dǎo)致AI浪費(fèi)時間，甚至更糟的是識別錯誤的模式。

第三個挑戰(zhàn)是期望。即使人類犯錯，人們?nèi)匀幌Ｍ麢C(jī)器是完美的。在醫(yī)療保健領(lǐng)域，專家估計誤診率可能高達(dá)20%，這意味著五分之一的患者有可能被誤診。考慮到這些數(shù)據(jù)以及AI輔助診斷的錯誤率可能為十萬分之一，大多數(shù)人仍然喜歡只看人類醫(yī)生。為什么？給出的最常見原因之一是AI的誤診率太高（即使它比人類醫(yī)生低得多）。人們期望AI完美。人們甚至期望人類AI培訓(xùn)師也很完美，甚至有可能變得更糟。

2016年3月23日，微軟發(fā)布了Twitter機(jī)器人Tay（對您的想法）。微軟已經(jīng)對AI進(jìn)行了培訓(xùn)，使其達(dá)到了一名19歲美國女孩的語言水平和互動能力。在一次盛大的社交實(shí)驗(yàn)中，Tay被釋放到全世界。96，000條推文之后，微軟不得不在發(fā)布后約16小時關(guān)閉Tay，因?yàn)樗D(zhuǎn)變了性別歧視，種族主義并促進(jìn)了納粹主義。遺憾的是，有些人決定教Tay有關(guān)煽動性語言的內(nèi)容，以使其腐化。同時，Microsoft并未考慮教Tay有關(guān)不當(dāng)行為的信息，因此沒有任何理由（或理由）知道諸如不當(dāng)行為和惡意意圖之類的東西。盛大的社會實(shí)驗(yàn)導(dǎo)致失敗，可悲的是，這可能更多地證明了人類社會，而不是人工智能的局限性。

內(nèi)隱的偏見，不良的數(shù)據(jù)以及人們的期望表明，人工智能將永遠(yuǎn)不會是完美的。這不是許多人希望擁有的神奇的解決方案。人工智能仍然可以為人類做一些非凡的事情，如恢復(fù)失去肢體的活動能力或在減少資源的情況下改善糧食生產(chǎn)。人們不應(yīng)該折衷我們可以得到的價值。我們應(yīng)該永遠(yuǎn)記?。篈I就像我們一樣，是不完美的。