DeepMind徹底解決人工智能災難性遺忘問題

9月1日消息，據(jù)外媒報道，暑假后你回到學校時，可能會覺得你已經(jīng)把上一年學到的知識都還給了老師。 但是，如果你像人工智能系統(tǒng)那樣學習知識，那么你在你每一年的第一天，你的大腦就真的會拿一個記憶的橡皮擦，把你之前學到的所有知識一點不留的擦掉——真真正正的從零開始。而這正是人工智能算法一直以來的學習方法，它從來不會真正記住任何東西。

人工智能系統(tǒng)在設計上就傾向于在每次開始新的學習之前，忘記先前學到的所有東西，這被稱為災難性遺忘。

很明顯，這是一個大問題。尖端的學習算法大多依賴給定答案的有監(jiān)督學習。 例如，面部識別AI系統(tǒng)將分析人臉的數(shù)千張照片，這些照片已經(jīng)手動標注好答案以便AI在視頻輸入中能檢測到人臉。 但是因為這些人工智能算法實際上并不“理解”他們所做的事情的基本邏輯，所以教導他們做其他任何事情，即使是非常相似的任務，都顯得非常困難。比如說，讓人工智能去識別特定的情感，這意味著你要從頭開始訓練這套模型。 一旦算法被訓練，它能做的事情就固定下來了，我們不能再訓練它去做其他事情。

多年來，科學家們一直試圖弄清楚如何解決這個問題。 如果他們成功，AI系統(tǒng)將能夠從一組新的訓練數(shù)據(jù)中學習，而不會覆蓋他們在此過程中已經(jīng)學習到的內(nèi)容。 也就是說，如果機器人真的有一天會崛起，我們的新“領主”將能夠在征服地球上的所有生命的同時吹泡泡糖——同時做兩件事。

但是，災難性的遺忘仍然是阻礙科學家們研發(fā)出強人工智能（AGI）的主要障礙之一。強人工智能指具有人類級別的聰明甚至是情感，這包括我們在電視和電影中看到的無所不能的，有同情心和想象力的人工智能。

事實上，上周在布拉格參加人類人工智能峰會的一些人工智能專家表示，災難性遺忘的問題是邁向強人工智能最大的障礙之一。而他們并不認為近期內(nèi)會在這方面有所突破。

但谷歌DeepMind的高級研究科學家伊琳娜希金斯（Irina Higgins）在會議的演講上宣布她的團隊已經(jīng)開始破解災難性遺忘的奧秘。

她開發(fā)了一個AI代理人，這有點像一個由AI算法控制的電子游戲中的角色。它可以比典型機器學習算法更有創(chuàng)造性地思考。 通過在虛擬的環(huán)境中經(jīng)歷一些事情，它可以“想象”類似的事情在其他環(huán)境中會怎樣發(fā)生。 換句話說，神經(jīng)網(wǎng)絡能夠從它所處的環(huán)境中抽象出關鍵物體和事件。

這與人類的想象力不同，我們可以完全想出一些從未見過的事物。比如，你可以在腦海中想象一只圓圓的、紅色的鳥鳥的樣子。 人工智能系統(tǒng)尚不如人類的大腦復雜，但它已經(jīng)可以想象已經(jīng)見過的事情在其他場景中發(fā)生的樣子。

希金斯在由GoodAI組織的會議上發(fā)言時說道：“我們希望機器能夠在探索中學習安全常識，這樣它就不會對自身造成損害。” 。她早些時候在arXiv上發(fā)表了她的論文，并撰寫了一篇相關的博客文章。

現(xiàn)在，希金斯的人工智能系統(tǒng)可以從五張同一物體的不同角度的照片中“理解”這個物體，理解物體與環(huán)境的關系，以及在從未給算法見過的其他角度下的樣子，或是在不同光線下的呈現(xiàn)的模樣。希金斯的論文重點介紹了如何訓練算法來發(fā)現(xiàn)白色手提箱或扶手椅。 在訓練之后，算法可以想象該對象在一個全新的虛擬世界中的外觀，并在遇到它時識別該對象。

希金斯說：“我們呈現(xiàn)一個圖像給人工智能模型看物體在一個環(huán)境下的樣子，并要求模型想象這個物體在不同環(huán)境中會是什么樣子?！?與其他傳統(tǒng)AI系統(tǒng)相比，她的新算法在識別從未見過的物體方面表現(xiàn)優(yōu)異。

簡而言之，該算法能夠記錄它遇到的內(nèi)容與過去看到的內(nèi)容之間的差異。 像大多數(shù)人一樣，但與大多數(shù)其他算法不同的是，希金斯為谷歌搭建的新系統(tǒng)可以理解它從沒有遇到的全新的對象。通過從一個新的角度看待對象， 它可以使用一些備用計算能力來從中提取新信息，更新它對世界的了解。而這一切無需重新學習，也無需遺忘先前的訓練成果 。 換句話說，這套系統(tǒng)能夠?qū)⑵洮F(xiàn)有知識轉(zhuǎn)移并應用于新環(huán)境。

當然，希金斯的模型本身不能把強人工智能變成現(xiàn)實。 但它標志著人工智能算法邁出了重要的一步。從此人工智能算法可以不斷更新，在不丟失已有功能的情況下學習有關世界的新知識。

希金斯說：“我認為無遺忘學習是接近真正人工智能的道路上至關重要的一步?！?/p>

這項研究仍處于早期階段。 與許多其他物體識別AI工具一樣，這些算法只能在一個系列特定的任務中進行學習，例如查看照片并在許多不是面部的圖像中挑選出一張臉。 但希金斯新的人工智能系統(tǒng)正在以一種更具創(chuàng)造力和想象力的方式完成這些任務。

即使希金斯的研究沒有立即讓我們進入強人工智能時代，她的新算法已經(jīng)能夠改進我們一直使用的AI系統(tǒng)。 例如，希金斯在用于訓練面部識別軟件的一組主要數(shù)據(jù)上嘗試了她的新AI系統(tǒng)。 在分析了數(shù)據(jù)集中發(fā)現(xiàn)的數(shù)百萬張頭像后，該算法可以生成從未在圖片庫中出現(xiàn)過的頭像。 例如，希金斯展示了按膚色排列的頭像集合。

希金斯隨后透露，她的算法也能夠?qū)χ饔^評價作出預測。比如它可以對人們對頭像的評價作出判斷。在學習了上百萬張頭像之后，希金斯的算法繪制了幾副它認為 “有吸引力”的頭像：一系列年輕白人女性的頭像。 也就是說，拋開種族問題不談，希金斯的算法發(fā)現(xiàn)了人們的審美偏見： 白人更具吸引力。

當局者迷，旁觀者清，這種創(chuàng)造性的新算法已經(jīng)比人類更善于尋找人類的偏見， 之后工程師可以從系統(tǒng)中移除這些偏見。

雖然最新的人工智能算法還不能取代藝術家，但毫無疑問，希金斯團隊的研發(fā)成果是人類邁向強人工智能的一大步。