ChatGPT大規(guī)模封號

最近這兩天，在網(wǎng)上看到了不少有關(guān)ChatGPT賬號的討論。

大量ChatGPT賬號被封，甚至很多ChatGPT Plus付費訂閱會員的賬號也gg了。

初步判斷，被封掉的很多ChatGPT賬號估計都是那種批量注冊來的，這種賬號OpenAI那邊估計想識別也不難，一旦揪出來，一批全封了。

而且據(jù)反饋來看，一些僅僅使用了API Key的賬號也被封了，對應(yīng)的API Key也就不能訪問使用了。

所以說啊，如果真想好好玩，最好還得老老實實自己動手注冊一個，這樣也會穩(wěn)定一些。

除了ChatGPT大規(guī)模封號這件事這兩天傳得沸沸揚揚之外，最近又出了一個和ChatGPT有關(guān)的大動作。

那就是意大利政府突然下令，封禁ChatGPT！

3月31日，意大利國家隱私監(jiān)管機構(gòu)正式下令封禁ChatGPT，并指控OpenAI「非法收集個人數(shù)據(jù)」。

值得注意的是，該「臨時禁令」將一直生效，直到OpenAI能夠尊重歐盟具有里程碑意義的隱私法——通用數(shù)據(jù)保護條例（GDPR）。

根據(jù)意大利國家數(shù)據(jù)保護機構(gòu)GPDP發(fā)布新聞稿，OpenAI收集用戶數(shù)據(jù)并用于算法「訓(xùn)練」的行為，缺乏法律依據(jù)。

同時，3月20日涉及用戶對話和支付信息的泄露事件，也明確地暴露出了OpenAI在個人信息的處理上存在著問題。

除此之外，OpenAI雖然聲稱ChatGPT面向的是13歲以上的用戶，但由于缺乏相應(yīng)的年齡驗證機制，因此未成年人很可能會看到超出其自身發(fā)展和自我認知水平的信息。

監(jiān)管機構(gòu)表示，OpenAI有20天的時間，如不給出可行的補救措施，則會面臨最高2000萬歐元，或全球總年營業(yè)額4%的罰款。

這個事情出了之后，OpenAI首席執(zhí)行官Sam Altman對此做出了回應(yīng)，公司也已經(jīng)關(guān)停了當(dāng)?shù)氐腃hatGPT服務(wù)。

自此，意大利成為了世界上第一個宣布禁用ChatGPT的國家。

這時候就有一個問題浮現(xiàn)了出來：

是否應(yīng)該限制這類AI工具呢？

ChatGPT發(fā)布后，雖然寫論文、寫代碼的能力讓人眼花繚亂，但它對錯誤信息的傳播、對就業(yè)的影響，以及對整個人類社會更廣泛的風(fēng)險，都讓很多人憂心忡忡，發(fā)出預(yù)警。

最近，封禁GPT技術(shù)的浪潮，更是一波接一波。

不僅圖靈獎得主Yoshua Bengio、馬斯克、馬庫斯等千名大佬聯(lián)名簽署公開信，呼吁全球所有AI實驗室暫停訓(xùn)練比GPT-4更強大的AI模型。

而且消費者權(quán)益保護組織BEUC，也在近日呼吁歐盟和國家當(dāng)局調(diào)查ChatGPT。

此外，很多專家也表示，由于AI對國家安全、就業(yè)和教育的潛在影響，需要制定新的法規(guī)來管理AI。

在美國，非營利組織人工智能與數(shù)字政策中心（CAIDP）也要求聯(lián)邦貿(mào)易委員會（FTC）調(diào)查OpenAI是否違反了消費者保護規(guī)則，并禁止其進一步發(fā)布GPT-4。

畢竟，有了千名大佬的聯(lián)名信這個先例，CAIDP的申訴看起來也似乎更加順理成章。而且，CAIDP主席Marc Rotenberg好不意外地也簽署了那封信。

整體來說，CAIDP申訴的內(nèi)容與那封信一致，都是呼吁放慢生成式AI模型的發(fā)展，并實施更嚴(yán)格的政府監(jiān)督。

不過，CAIDP更進一步地認為，ChatGPT「存在偏見、具有欺騙性，并且對公共安全構(gòu)成風(fēng)險」。

雖然OpenAI已經(jīng)公開指出AI生成文本的潛在威脅，但CAIDP認為，GPT-4已經(jīng)遠遠越線了，為了保護消費者，應(yīng)該采取監(jiān)管行動。

CAIDP表示，GPT-4模型具有許多重大的潛在威脅，比如GPT-4可以產(chǎn)生惡意代碼，和高度定制宣傳的方式，而它有偏見的訓(xùn)練數(shù)據(jù)，可能導(dǎo)致在招聘等方面形成刻板印象，或不公平的種族和性別偏好。

CAIDP認為，OpenAI的行為違反了FTC法案第5條，這一條令禁止不公平和欺騙性的貿(mào)易行為。

其中，AI模型的幻覺，信口開河胡說八道的問題，在CAIDP看來都是欺騙。它警告ChatGPT「宣傳具有欺騙性的商業(yè)聲明和廣告」，這些都可能納入FTC的權(quán)限范圍。

在申訴中，CAIDP要求FTC停止GPT模型所有進一步的商業(yè)部署，并要求在未來推出任何模型之前，都要對模型進行獨立評估。它還要求提供一種可公開訪問的舉報工具，類似于允許消費者提出欺詐投訴的那種。

有分析認為，雖然CAIDP的申訴在短時間內(nèi)不會讓FTC有所行動，但未來很有可能會出現(xiàn)相關(guān)的監(jiān)管，并可能讓GPT-5的發(fā)布推遲。

看到這里，不知道大家對于這個問題有什么看法，歡迎評論區(qū)交流~

審核編輯 ：李倩