關于 AI 和神經網絡的 10個最容易被誤解的問題

來源：未來AI工具

1. 人工智能有可能墜入愛河嗎？

2. 人工智能能否開始造成傷害并最終統(tǒng)治世界？

3. 將您的聲音、外觀和文本轉語音風格上傳到 AI 中是否有風險？
4. 將意識上傳到計算機：現實還是科幻小說？
5. 人工智能真的會奪走人們的工作嗎？
6. AI和藝術圖像：復制還是盜竊？
7. 我可以使用 GPT-4 代替谷歌搜索嗎？
8. 人工智能能有創(chuàng)造力嗎？
9. 人工智能真的能思考嗎？
10. 聊天GPT是如何制作的？和中途還是DALL-E？ 1. 人工智能有可能墜入愛河嗎？

神經網絡是受人腦結構啟發(fā)的數學模型。它們由處理信息的互連節(jié)點或“神經元”組成。通過從數據中學習，他們可以執(zhí)行特定的任務，例如文本生成，圖像識別，甚至模擬類似人類的書寫風格。

AI能“愛”嗎？

愛的概念與意識、自我意識、同理心以及一系列其他復雜的情感和認知過程有著內在的聯系。然而，神經網絡不具備這些屬性。

例如，如果給定適當的上下文和說明，可以訓練神經網絡生成類似于情書的文本。如果提供愛情故事的第一章并要求以類似的方式繼續(xù)，該模型將遵守。但它這樣做是基于模式和統(tǒng)計可能性，而不是因為任何情感聯系或感情。

另一個需要考慮的關鍵方面是記憶。就其基本形式而言，神經網絡缺乏在不同發(fā)射之間保留信息的能力。它們在沒有連續(xù)性或意識到過去交互的情況下運行，基本上在每次使用后恢復到“出廠設置”。

記憶和神經網絡

雖然記憶可以被人為地添加到神經網絡中，允許它引用過去的“記憶”或數據，但這并不能使模型充滿意識或情感。即使有記憶組件，神經網絡的反應也是由數學算法和統(tǒng)計概率決定的，而不是個人經驗或情感。

神經網絡墜入愛河的概念是一個迷人但虛構的想法。目前的人工智能模型，無論其復雜性和能力如何，都不具備體驗愛情等情感的能力。

在復雜模型中觀察到的文本生成和響應是數學計算和模式識別的結果，而不是真正的情感或情商。

---

2. 人工智能能否開始造成傷害并最終統(tǒng)治世界？

今天的神經網絡在沒有完全證明的方法的情況下運行，以確保它們遵守特定的規(guī)則。例如，防止模型使用攻擊性語言是一項令人驚訝的挑戰(zhàn)性任務。盡管努力設置此類限制，但模型總會找到規(guī)避它們的方法。

神經網絡的未來

隨著我們轉向更先進的神經網絡，例如具有類似人類能力的假設 GPT-10 模型，控制的挑戰(zhàn)變得更加緊迫。如果這些系統(tǒng)在沒有特定任務或限制的情況下自由發(fā)揮，它們的行為可能會變得不可預測。

關于這些事態(tài)發(fā)展導致負面情景的可能性的辯論差異很大，估計從0.01%到10%不等。雖然這些可能性似乎很低，但潛在的后果可能是災難性的，包括人類滅絕的可能性。

協調和控制方面的努力

像chatgpt和chatgpt-4這樣的產品是不斷努力使神經網絡的意圖與人類目標保持一致的例子。這些模型旨在遵循說明，保持禮貌的互動，并提出澄清性問題。然而，這些控制遠非完美，管理這些網絡的問題甚至還沒有解決一半。

為神經網絡創(chuàng)建萬無一失的控制機制的挑戰(zhàn)是當今人工智能領域最重要的研究領域之一。能否解決這個問題以及解決問題所需的方法的不確定性只會增加問題的緊迫性。

---

3. 將您的聲音、外觀和文本轉語音風格上傳到 AI 中是否有風險？

在數字技術快速發(fā)展的時代，人們對語音、外觀和文本樣式等個人信息安全性的擔憂日益增加。雖然數字身份盜竊的威脅是真實的，但了解背景和為應對這一挑戰(zhàn)而采取的措施至關重要。

數字身份和神經網絡

在神經網絡中，這不是上傳個人屬性的問題，而是訓練或重新訓練模型來模仿一個人的外觀、聲音或文本。這些經過訓練的模型確實可以通過復制腳本和參數來竊取，允許它們在另一臺計算機上運行。

這項技術的潛在濫用是嚴重的，因為它已經達到了深度偽造視頻和語音克隆算法可以令人信服地復制個人的水平。創(chuàng)建此類欺騙性內容可能既昂貴又耗時，需要數千美元和數小時的錄制。然而，風險是有形的，并強調需要可靠的識別和確認方法。

確保身份安全的努力

目前正在采取各種舉措來解決數字身份盜竊問題。像WorldCoin這樣的初創(chuàng)公司，OpenAI的負責人Sam Altman投資了這些初創(chuàng)公司，正在探索創(chuàng)新的解決方案。世通的概念涉及為關于一個人的每條信息分配一個唯一的密鑰，以便隨后進行識別。這種方法也可以應用于大眾媒體，以驗證新聞的真實性。

盡管有這些有希望的發(fā)展，但在所有行業(yè)中實施此類系統(tǒng)是一項復雜而大規(guī)模的工作。目前，這些解決方案仍處于原型階段，在未來十年內可能無法廣泛采用。

---

4. 將意識上傳到計算機：現實還是科幻小說？將人類意識轉移到計算機中的想法一直是科幻小說愛好者的一個迷人主題。但是，這是當前技術甚至未來進步可以實現的目標嗎？通過數字孿生生體永生的概念當然吸引了人們的想象力，但現實要復雜得多。

模仿但不復制

用現有技術，例如在GPT-4等模型中發(fā)現的技術，可以教神經網絡模仿一個人的交流方式，學習個人笑話，甚至以獨特的風格和演示方式發(fā)明新的笑話。然而，這并不是轉移意識的同義詞。

意識的復雜性遠遠超出了溝通方式和個人怪癖。人類仍然缺乏對意識是什么、它被儲存在哪里、它如何區(qū)分個體以及究竟是什么讓一個人獨一無二的具體理解。

潛在的未來可能性

轉移意識的假設場景需要將意識定義為記憶，經驗和感知的個體特征的組合。如果這樣的定義被接受，那么可能會有一條理論途徑，通過將這種知識轉移到神經網絡中來模擬進一步的生命。

然而，這一理論只是推測性的，并不基于當前的科學理解或技術能力。意識問題是哲學、神經科學和認知科學中最深刻和最難以捉摸的課題之一。它的復雜性遠遠超出了當前人工智能和神經網絡技術的能力。

---

5. 人工智能真的會奪走人們的工作嗎？通過人工智能實現自動化可能會影響工作涉及日常執(zhí)行指令的職業(yè)。例子包括幫助申報的稅務助理顧問和臨床試驗數據經理，他們的工作圍繞著填寫報告并將其與標準進行核對。這些角色的自動化潛力是顯而易見的，因為必要的信息很容易獲得，而且勞動力成本高于平均水平。另一方面，在可預見的未來，烹飪或公共汽車駕駛等職業(yè)仍然是安全的。將神經網絡連接到現實世界的挑戰(zhàn)，結合現有的法律法規(guī)，使這些領域的自動化成為一項更加復雜的工作。變化和機遇
自動化并不一定意味著完全取代人類工人。它通常會導致日常任務的優(yōu)化，使人們能夠專注于更具創(chuàng)造力和吸引力的責任。

1. 新聞業(yè)：在新聞業(yè)等行業(yè)，神經網絡可能很快就會用一組論文來協助起草文章，讓人類作家做出精確的調整。

2. 教育：也許最令人興奮的轉變在于教育。研究表明，個性化方法可以改善教育成果。借助人工智能，我們可以為每個學生設想個性化的助手，從而顯著提高教育質量。教師的角色將朝著戰(zhàn)略規(guī)劃和控制的方向發(fā)展，重點是確定學習計劃、測試知識和指導整體學習。

---

6. 人工智能和藝術圖像：復制還是盜竊？

人工智能通過研究各種形式的藝術，識別不同的風格并試圖模仿它們來學習。這個過程類似于人類學習，藝術學生觀察、分析和模仿不同藝術家的作品。

人工智能的運作原則是誤差最小化。如果模型在訓練過程中遇到類似的圖像數百次，它可能會記住該圖像作為其學習策略的一部分。這并不意味著網絡正在存儲圖像，而是以類似于人類記憶的方式識別它。

一個實際的例子

考慮一個藝術學生，他每天畫兩幅畫：一幅獨特，另一幅是蒙娜麗莎的復制品。反復繪制蒙娜麗莎后，學生將能夠以相當的準確性再現它，但不完全正確。這種學習的再創(chuàng)作能力并不等同于盜竊原作。

神經網絡以類似的方式運行。他們從訓練期間遇到的所有圖像中學習，有些圖像更常見，因此更準確地再現。這不僅包括名畫，還包括訓練樣本中的任何圖像。盡管有一些方法可以消除重復，但它們并非完美無缺，研究表明，某些圖像在訓練過程中可能會出現數百次。

---

7. 我可以使用 GPT-4 代替谷歌搜索嗎？

根據OpenAI的內部估計，當前領先的模型GPT-4在大約70-80%的時間內正確回答，具體取決于主題。雖然這似乎低于理想的 100% 精度，但它標志著基于 GPT-3.5 架構的上一代模型有了顯著改進，后者的準確率為 40-50%。這種性能的顯著提高是在研究的 6-8 個月內實現的。

背景很重要上述數字涉及在沒有具體背景或隨附信息的情況下提出的問題。當提供上下文時，例如維基百科頁面，模型的準確性接近 100%，并根據來源的正確性進行調整。

上下文無關和上下文豐富的問題之間的區(qū)別至關重要。例如，關于愛因斯坦出生日期的問題沒有任何附帶信息，完全依賴于模型的內部知識。但是對于特定的來源或上下文，模型可以提供更準確的響應。

谷歌搜索 GPT-4

該領域的一個有趣的發(fā)展是將互聯網收集成到GPT-4中。這允許用戶將部分互聯網搜索委托給 GPT-4，從而可能減少手動 Google 信息的需求。但是，此功能需要付費訂閱。

展望未來OpenAI首席執(zhí)行官Sam Altman預計，模型中事實信息的可靠性將繼續(xù)提高，預計1.5-2年的時間表將進一步完善這一方面。

---

8. 人工智能能有創(chuàng)造力嗎？

對一些人來說，創(chuàng)造力是與神俱來的一種能力，是所有人在不同程度上擁有的東西。其他人可能會爭辯說，創(chuàng)造力是一種習得的技能，或者它僅限于特定的職業(yè)或活動。即使在人類之間，創(chuàng)造能力也存在差異。因此，將人類創(chuàng)造力與神經網絡的創(chuàng)造力進行比較需要仔細考慮創(chuàng)造力的真正含義。

神經網絡與藝術性

最近的發(fā)展使神經網絡能夠創(chuàng)造藝術和詩歌。一些模特制作的作品可以進入業(yè)余比賽的決賽。但是，這并不一致;成功可能是零星的，也許是一百次嘗試中的一次。

辯論

上述信息引發(fā)了激烈的爭論。關于神經網絡是否可以被認為是創(chuàng)造性的，意見分歧很大。一些人認為，創(chuàng)作一首詩或一幅畫的能力，即使只是偶爾成功，也構成了一種創(chuàng)造力。其他人則堅信創(chuàng)造力完全是人類的特征，受情感，意圖和意識的約束。

創(chuàng)造力的主觀性進一步增加了討論的復雜性。即使在人與人之間，對創(chuàng)造力的理解和欣賞也可能大不相同。

實際意義

除了哲學辯論之外，還有實際意義需要考慮。如果神經網絡確實可以發(fā)揮創(chuàng)造力，那么這對依賴創(chuàng)造性產出的行業(yè)意味著什么？機器能否在某些領域增強甚至取代人類的創(chuàng)造力？這些問題不僅是理論上的，而且具有現實世界的意義。

---

9. 人工智能真的能思考嗎？為了探索神經網絡是否可以思考，我們首先需要了解什么是思想。例如，如果我們將理解如何使用鑰匙打開門的過程視為一個思維過程，那么有些人可能會爭辯說神經網絡能夠進行類似的推理。它們可以關聯狀態(tài)和期望的結果。其他人可能會對此提出質疑，指出神經網絡依賴于反復接觸數據，就像人類通過反復觀察學習一樣。創(chuàng)新與共同思考
在考慮創(chuàng)新思想或不常表達的想法時，辯論變得更加復雜。神經網絡可能會在一百萬次嘗試中產生一個新想法，但這算得上是思想嗎？這與隨機生成有何不同？如果人類偶爾也會產生錯誤或無效的想法，那么人類和機器思維的界限在哪里？概率和想法生成
概率的概念增加了另一層復雜性。神經網絡可以產生數百萬種不同的響應，其中可能有一些創(chuàng)新或有意義的響應。一定比例的有意義和無意義的想法是否驗證了思考的能力？

對 AI 的不斷發(fā)展的理解
從歷史上看，隨著機器被開發(fā)出來來解決復雜的問題，例如通過圖靈測試，定義智能的目標已經發(fā)生了變化。80年前曾經被認為是奇跡的東西現在是通用技術，構成人工智能的定義也在不斷發(fā)展。

---

10. 聊天GPT是如何制作的？和中途還是DALL-E？神經網絡是一個起源于20世紀中葉的想法，已經成為ChatGPT和DALL-E等模型功能的核心。盡管按照今天的標準，早期的想法似乎很簡化，但它們?yōu)槔斫馊绾瓮ㄟ^數學模型復制生物大腦的運作奠定了基礎。以下是對這些神經網絡的原理的探索。1. 來自大自然的靈感：
術語“神經網絡”本身的靈感來自生物神經元，生物神經元是大腦的核心功能單位。這些人工結構包括節(jié)點或人工神經元，模仿自然大腦功能的許多方面。這種與生物學的聯系為現代建筑的創(chuàng)造提供了寶貴的見解。2. 數學作為工具：
神經網絡是數學模型，使我們能夠利用數學技術的豐富資源來分析和評估這些模型。一個簡單的例子是將一個數字作為輸入并向其加 4 的函數，例如 f（6） = 。雖然這是一個基本功能，但神經網絡可以表示更復雜的關系。3. 處理模棱兩可的任務：
在處理輸入和輸出之間的關系不容易描述的任務時，傳統(tǒng)編程是不夠的。以對貓和狗的圖片進行分類為例。盡管它們有相似之處，但人類可以很容易地區(qū)分它們，但用算法表達這種區(qū)別是復雜的。4. 訓練和從數據中學習：
神經網絡的優(yōu)勢在于它們從數據中學習的能力。給定兩組圖像（例如，貓和狗），模型通過訓練自己尋找聯系來學習區(qū)分它們。通過反復試驗，并調整其人工神經元，它提高了正確分類的能力。5. 大型模型的力量：
從理論上講，具有足夠標記數據的足夠大的神經網絡可以學習任何復雜的函數。但是，挑戰(zhàn)在于所需的計算能力和正確分類數據的可用性。這種復雜性使得像ChatGPT這樣的大型模型幾乎不可能完全分析。6. 專業(yè)培訓：
例如，ChatGPT 針對兩項特定任務進行了訓練：在上下文中預測下一個單詞，并確保非攻擊性但有用且易于理解的答案。這些精確的培訓目標促成了它的普及和廣泛使用。

7. 理解的持續(xù)挑戰(zhàn)：
盡管取得了這些進展，但充分了解大型復雜模型的內部工作原理仍然是一個活躍的領域研究。揭開其復雜過程的神秘面紗的追求繼續(xù)占據著該領域一些最優(yōu)秀的研究人員。

---

常見問題你能為你的曾孫保存你的數字副本嗎？盡管自己的“數字副本”的想法在很大程度上仍然是推測性的，但現代技術使我們能夠捕獲和存檔我們數字足跡的許多元素，例如照片、視頻和文字。為什么不能100%信任人工智能？神經網絡從他們訓練的環(huán)境中學習，并且這些數據可能包含偏差或不準確之處。專家強調使用高質量數據和持續(xù)監(jiān)控的重要性，以確保網絡的預測盡可能準確。世界有機器起義的危險嗎？與流行文學和電影敘事相反，人類定義的規(guī)則和算法控制著當前的人工智能系統(tǒng)如何運作。目前的技術水平禁止“機器起義”，因為機器缺乏自主意志或欲望。人工智能和神經網絡有什么區(qū)別？被稱為神經網絡的人工智能子集通過類似于人腦的網絡神經元結構來處理信息。更廣泛地說，人工智能是指能夠執(zhí)行通常需要人類智能的操作的硬件或軟件。人工智能如何“學習”？神經網絡通過稱為訓練的過程進行學習，在訓練過程中，它們被輸入大量數據并調整其內部參數以最小化其預測中的誤差。此迭代過程由數學優(yōu)化技術指導。是否有可能完全理解人工智能如何做出決策？神經網絡，特別是深度學習模型，由于其復雜性，通常被稱為”黑匣子“雖然有一些方法可以解釋某些決策，但跟蹤神經網絡決策過程的各個方面可能具有挑戰(zhàn)性。人工智能有偏見嗎？神經網絡本身并不是固有的偏差，但它們可以反映訓練數據中存在的偏差。它強調了負責任的數據收集和處理的重要性。

人工智能能有創(chuàng)造力嗎？

一些神經網絡已被設計用于生成藝術、音樂甚至寫作。雖然這些創(chuàng)作可能新穎而有趣，但它們是否構成“創(chuàng)造力”仍然是一個哲學爭論的主題。

人工智能容易受到攻擊嗎？

是的，像對抗性示例這樣的特定攻擊，其中對輸入數據的微小更改可能導致不正確的輸出，可能會使神經網絡容易受到攻擊。為了開發(fā)針對此類漏洞的防御措施，專家們一直在努力。

圍繞人工智能的道德考慮是什么？

神經網絡中的倫理考慮包括與偏見、透明度、隱私和問責制相關的問題。適當的指導方針、法規(guī)和監(jiān)督對于解決這些問題至關重要。

END

歡迎加入Imagination GPU與人工智能交流2群

入群請加小編微信：eetrend89

（添加請備注公司名和職稱）

推薦閱讀 對話Imagination中國區(qū)董事長：以GPU為支點加強軟硬件協同，助力數

2023全球電子成就獎評選活動開啟，快來為Imagination投票！

---

Imagination Technologies是一家總部位于英國的公司，致力于研發(fā)芯片和軟件知識產權（IP），基于Imagination IP的產品已在全球數十億人的電話、汽車、家庭和工作 場所中使用。獲取更多物聯網、智能穿戴、通信、汽車電子、圖形圖像開發(fā)等前沿技術信息，歡迎關注 Imagination Tech！