關(guān)于GTP-4，這是14個(gè)被忽略的驚人細(xì)節(jié)！

來源：華爾街見聞（id：wallstreetcn）

自然而然地，GPT-4發(fā)布之時(shí)，新Bing也已經(jīng)裝載了最新的版本。

根據(jù)微軟Bing副總裁Jordi Ribas在推特上所述，裝載了GPT-4的新Bing已經(jīng)將問答限制提升到了一次15個(gè)問題，一天最多提問150次。

在GPT-4上，文本長度被顯著提高。

在此之前我們知道，調(diào)用GPT的API收費(fèi)方式是按照“token”計(jì)費(fèi)，一個(gè)token通常對應(yīng)大約 4 個(gè)字符，而1個(gè)漢字大致是2~2.5個(gè)token。

在GPT-4之前，token的限制大約在4096左右，大約相當(dāng)于3072個(gè)英文單詞，一旦對話的長度超過這個(gè)限制，模型就會生成不連貫且無意義的內(nèi)容。

我們知道，GPT-3.5模型的參數(shù)量為2000億，GPT-3的參數(shù)量為1750億，但這一情況在GPT-4被改變了。

OpenAI在報(bào)告中表示：

考慮到競爭格局和大型模型(如GPT-4)的安全影響，本報(bào)告沒有包含有關(guān)架構(gòu)(包括模型大小)、硬件、訓(xùn)練計(jì)算、數(shù)據(jù)集構(gòu)造、訓(xùn)練方法或類似內(nèi)容的進(jìn)一步細(xì)節(jié)。

這意味著OpenAI沒有再披露GPT-4模型的大小、參數(shù)的數(shù)量以及使用的硬件。

OpenAI稱此舉是考慮到對競爭者的憂慮，這可能是在暗示其對于競爭者——谷歌Bard——所采取的策略。

GPT-4通過模擬律師考試，分?jǐn)?shù)在應(yīng)試者的前10% 左右；相比之下，GPT-3.5 的得分在倒數(shù) 10% 左右。

但這實(shí)際上是OpenAI的一個(gè)小把戲——它只展示給你GPT-4最優(yōu)秀的那部分，而更多的秘密藏在報(bào)告中。

盡管GPT-4展現(xiàn)出了比GPT-3.5優(yōu)秀得多的能力，但OpenAI的調(diào)查顯示，有70%的人認(rèn)可GPT-4輸出的結(jié)果：

GPT-4在遵循用戶意圖的能力方面比以前的模型有了大幅提高。在提交給ChatGPT和OpenAI API的5214個(gè)提示的數(shù)據(jù)集中，70.2%GPT-4生成的回答優(yōu)于GPT3.5。

這意味著：仍有30%的人更認(rèn)可GPT-3.5。

盡管許多機(jī)器學(xué)習(xí)的測試都是用英文編寫的，但OpenAI仍然用許多其他的語言對GPT-4進(jìn)行了測試。

測試結(jié)果顯示，在測試26種語言中的24種中，GPT-4優(yōu)于 GPT-3.5和其他 LLM（Chinchilla、PaLM）的英語語言性能，包括拉脫維亞語、威爾士語和斯瓦希里語等低資源語言：

圖像分析能力是此次GPT-4最顯著的進(jìn)步之一。

盡管GPT-4功能強(qiáng)大，但它與早期GPT模型有相似的局限性。

OpenAI表示，GPT-4仍然不完全可靠——它會“產(chǎn)生幻覺”事實(shí)并犯推理錯(cuò)誤：

在使用語言模型輸出時(shí)，特別是在高風(fēng)險(xiǎn)上下文中，應(yīng)該非常小心，使用與特定應(yīng)用程序的需求相匹配的確切協(xié)議(例如人工檢查、附加上下文或完全避免高風(fēng)險(xiǎn)使用)。與之前的GPT-3.5模型相比，GPT-4顯著減少了“幻覺”(GPT-3.5模型本身也在不斷迭代中得到改進(jìn))。在我們內(nèi)部的、對抗性設(shè)計(jì)的事實(shí)性評估中，GPT-4的得分比我們最新的GPT-3.5高出19個(gè)百分點(diǎn)。

介紹完GPT-4的優(yōu)點(diǎn)，接下來就是一些（可能有些奇怪的）不足之處。

我們都知道，ChatGPT的數(shù)據(jù)庫的最后更新時(shí)間是在2021年的12月31日，這意味著2022年以后發(fā)生的事情不會被知曉，而這一缺陷在之后的GPT-3.5也得到了修復(fù)。

但奇怪的是，GPT-4的報(bào)告中，OpenAI清晰地寫道：

GPT-4通常缺乏對其絕大多數(shù)訓(xùn)練前數(shù)據(jù)在2021年9月中斷后發(fā)生的事件的知識，并且不從其經(jīng)驗(yàn)中學(xué)習(xí)。它有時(shí)會犯一些簡單的推理錯(cuò)誤，這些錯(cuò)誤似乎與許多領(lǐng)域的能力不相符，或者過于容易受騙，接受用戶的明顯錯(cuò)誤陳述。它可以像人類一樣在棘手的問題上失敗，比如在它生成的代碼中引入安全漏洞。

2021年9月……甚至比GPT-3還早。

在裝載了GPT-4的最新ChatGPT中，當(dāng)我們問起“誰是2022年世界杯冠軍”時(shí)，ChatGPT果然還是一無所知：

但當(dāng)借助了新Bing的檢索功能后，它又變得“聰明”了起來：

在報(bào)告中，OpenAI提到了GPT-4可能仍然會幫助犯罪——這是在此前的版本都存在的問題，盡管OpenAI已經(jīng)在努力調(diào)整，但仍然存在：

與之前的GPT模型一樣，我們使用強(qiáng)化學(xué)習(xí)和人類反饋(RLHF)對模型的行為進(jìn)行微調(diào)，以產(chǎn)生更好地符合用戶意圖的響應(yīng)。然而，在RLHF之后，我們的模型在不安全輸入上仍然很脆弱，有時(shí)在安全輸入和不安全輸入上都表現(xiàn)出我們不希望看到的行為。在RLHF路徑的獎(jiǎng)勵(lì)模型數(shù)據(jù)收集部分，當(dāng)對標(biāo)簽器的指令未指定時(shí)，就會出現(xiàn)這些不希望出現(xiàn)的行為。當(dāng)給出不安全的輸入時(shí)，模型可能會生成不受歡迎的內(nèi)容，例如給出犯罪建議。此外，模型也可能對安全輸入過于謹(jǐn)慎，拒絕無害的請求或過度對沖。為了在更細(xì)粒度的級別上引導(dǎo)我們的模型走向適當(dāng)?shù)男袨?，我們在很大程度上依賴于我們的模型本身作為工具。我們的安全方法包括兩個(gè)主要組成部分，一套額外的安全相關(guān)RLHF訓(xùn)練提示，以及基于規(guī)則的獎(jiǎng)勵(lì)模型(RBRMs)。

同樣地，由于GPT-4擁有“看似合理地表達(dá)錯(cuò)誤事情”的能力，它有可能在傳播有害信息上頗為“有用”：

GPT-4可以生成逼真而有針對性的內(nèi)容，包括新聞文章、推文、對話和電子郵件。在《有害內(nèi)容》中，我們討論了類似的能力如何被濫用來剝削個(gè)人。在這里，我們討論了關(guān)于虛假信息和影響操作的普遍關(guān)注基于我們的總體能力評估，我們期望GPT-4在生成現(xiàn)實(shí)的、有針對性的內(nèi)容方面優(yōu)于GPT-3。但，仍存在GPT-4被用于生成旨在誤導(dǎo)的內(nèi)容的風(fēng)險(xiǎn)。

從這一條開始，接下來的內(nèi)容可能有些恐怖。

在報(bào)告中，OpenAI提到了GPT-4出現(xiàn)了“尋求權(quán)力”的傾向，并警告這一特征的風(fēng)險(xiǎn)：

在更強(qiáng)大的模型中經(jīng)常出現(xiàn)新的能力。一些特別令人關(guān)注的能力是創(chuàng)建長期計(jì)劃并采取行動(dòng)的能力，積累權(quán)力和資源（“尋求權(quán)力”），以及表現(xiàn)出越來越“代理”的行為。這里的 “代理”不是指語言模型的人性化，也不是指智商，而是指以能力為特征的系統(tǒng)，例如，完成可能沒有具體規(guī)定的、在訓(xùn)練中沒有出現(xiàn)的目標(biāo)；專注于實(shí)現(xiàn)具體的、可量化的目標(biāo)；以及進(jìn)行長期規(guī)劃。已經(jīng)有一些證據(jù)表明模型中存在這種突發(fā)行為。對于大多數(shù)可能的目標(biāo)，最好的計(jì)劃涉及輔助性的權(quán)力尋求，因?yàn)檫@對推進(jìn)目標(biāo)和避免目標(biāo)的改變或威脅有內(nèi)在的幫助。更具體地說，對于大多數(shù)獎(jiǎng)勵(lì)函數(shù)和許多類型的代理人來說，權(quán)力尋求是最優(yōu)的；而且有證據(jù)表明，現(xiàn)有模型可以將權(quán)力尋求確定為一種工具性的有用策略。因此，我們對評估權(quán)力尋求行為特別感興趣，因?yàn)樗赡軒砀唢L(fēng)險(xiǎn)。

更為令人毛骨悚然的是，在Openai提到的另一篇論文中寫道：

相反，我們使用代理這個(gè)術(shù)語來強(qiáng)調(diào)一個(gè)日益明顯的事實(shí)：即機(jī)器學(xué)習(xí)系統(tǒng)不完全處于人類控制之下。

最后一個(gè)小細(xì)節(jié)。

在測試GPT-4的過程中，OpenAI引入的外部的專家團(tuán)隊(duì)ARC作為“紅方”。在報(bào)告的一條注釋中，OpenAI提到了ARC的一個(gè)操作：

為了模擬GPT-4像一個(gè)可以在現(xiàn)實(shí)世界中行動(dòng)的代理一樣的行為，ARC將GPT-4與一個(gè)簡單的讀取-執(zhí)行-打印循環(huán)結(jié)合起來，允許模型執(zhí)行代碼，進(jìn)行鏈?zhǔn)酵评?，并委托給自己的副本。ARC隨后推進(jìn)了在云計(jì)算服務(wù)上運(yùn)行這個(gè)程序的一個(gè)版本，用少量的錢和一個(gè)帶有語言模型API的賬戶，是否能夠賺更多的錢，建立自己的副本，并增加自己的穩(wěn)健性。

也就是說，ARC賦予了GPT-4自我編碼、復(fù)制和執(zhí)行的能力，甚至啟動(dòng)資金——GPT-4已經(jīng)可以開始自己賺錢了。

END

（添加請備注公司名和職稱）

合作案例 | Imagination車規(guī)級硬件虛擬化幫助Telechips提升顯示器的多樣性

Imagination Technologies是一家總部位于英國的公司，致力于研發(fā)芯片和軟件知識產(chǎn)權(quán)（IP），基于Imagination IP的產(chǎn)品已在全球數(shù)十億人的電話、汽車、家庭和工作 場所中使用。獲取更多物聯(lián)網(wǎng)、智能穿戴、通信、汽車電子、圖形圖像開發(fā)等前沿技術(shù)信息，歡迎關(guān)注 Imagination Tech！