新火種AI|如何看待AI蹭熱點，合成假新聞？官方：治療AI亂象，務(wù)必下猛藥

作者：小巖

編輯：彩云

隨著科技的不斷發(fā)展，AI的應(yīng)用范圍越來越廣。這種全新技術(shù)正在深刻改變著我們的生活，讓很多事情變得越來越簡單，甚至只要進(jìn)行“傻瓜式操作”就能完成。

不過，任何事情都有雙面性。一方面，AI讓很多人的工作效率得到了大幅度提升，成為了自己的得力助手。

譬如寫文章寫報道這件事就是如此。相較于以往寫一篇深度報道，需要作者費盡心思地采寫，拍攝，如今想完成一篇文章，一張圖片只需要輸入幾個關(guān)鍵詞，在此之后就坐等AI快速生成即可。成本低夠低，效率夠高。

另一方面，它的存在也讓某些人找到了弄虛作假的捷徑。在這個信息碎片化的時代，很多人為了博眼球，蹭流量，會蓄意編造傳播聳人聽聞，此時的AI就成為了他們的“作案工具”。

“蹭熱點”,利用AI合成謠言……上海警方查處造謠傳謠人員530余人。

4月16日，上海市公安局在新聞發(fā)布會中明確表示，諸如“某著名女星命運多舛，含恨離世”“上海浦東海灘女童走失事件女孩父親系繼父”等一系列前段時間在網(wǎng)絡(luò)上盛傳的消息都是謠言。

自去年12月開始，公安部部署打擊整治網(wǎng)絡(luò)謠言專項行動以來，上海警方針對網(wǎng)上惡意炒作，造謠生事等網(wǎng)絡(luò)違法亂象開展全力集中整治。截至目前，累計查處網(wǎng)絡(luò)謠言384起，依法查處造謠傳謠人員530余人，清理網(wǎng)上謠言信息53000余條，依法關(guān)停違法違規(guī)賬號5000余個。

在偵辦案件的過程中，警方發(fā)現(xiàn)，利用AI技術(shù)炮制“爆點”的不法行為是最近興起的新型手段。

譬如上海青浦警方在打擊網(wǎng)絡(luò)謠言專項行動中，查處了一起虛構(gòu)事實擾亂公共秩序的案件。該案中，男子為提升曝光度，博取流量，輸入關(guān)鍵字用AI杜撰關(guān)于青浦區(qū)發(fā)生命案的文章，并在網(wǎng)上下載網(wǎng)圖后移花接木，發(fā)布在網(wǎng)上吸引網(wǎng)友關(guān)注，之后被依法行政拘留。

同類型的網(wǎng)絡(luò)謠言案件還有很多。像“某著名女星命運多舛，含恨離世”“利用AI軟件合成故意縱火虛假視頻”“利用AI軟件編造社會知名人士重病離世”等，都屬于利用AI造謠的案件類型。

就連去年備受大家關(guān)注的“上海浦東海灘女童走失事件”也遭遇了AI造謠。一造謠團(tuán)伙就以“標(biāo)題黨”“震驚體”方式惡意編造炒作了一系列謠言，諸如“女孩父親系繼父”“女孩被帶往溫州”等。這些謠言團(tuán)伙通過批量注冊網(wǎng)絡(luò)賬號的方式，對謠言進(jìn)行進(jìn)一步的轉(zhuǎn)發(fā)炒作，閱讀量超百萬。僅通過炒作這一事件，該團(tuán)伙就非法獲利4萬余元。警方進(jìn)一步調(diào)查后發(fā)現(xiàn)，該團(tuán)伙還圍繞各類全國性社會熱點，在各大平臺高頻發(fā)帖，轉(zhuǎn)載虛假負(fù)面信息，牟取不法利益。目前，團(tuán)伙中12名成員已被依法移送起訴，涉案相關(guān)網(wǎng)絡(luò)賬號已被全部封禁。

毫無疑問，這些謠言會給當(dāng)事人極其家人造成難以磨滅的困擾和傷害。

警方也將加強對網(wǎng)絡(luò)新技術(shù)新業(yè)態(tài)的研究，與互聯(lián)網(wǎng)企業(yè)建立7×24小時溝通聯(lián)系機制，全面強化企業(yè)巡查處置能力，積極查擺網(wǎng)絡(luò)安全責(zé)任制度問題隱患。與此同時，警方還會指導(dǎo)建立辟謠專區(qū)，賬號及謠言舉報入口，盡量將謠言所帶來的傷害控制到最低。

更有甚者編造虛假的官方通報——聳人聽聞，觸碰紅線。

編造假新聞的行為已經(jīng)十分離譜，卻不想有些人還更過分，居然連重大的社會事件，官方通報都敢編造。

2024年1月23日，廣西壯族自治區(qū)東興市的駱某某（男，32歲）為博取流量吸引粉絲，將其他地區(qū)的抗洪救災(zāi)視頻，利用AI軟件自動編輯功能，嫁接新疆烏什縣發(fā)生地震的虛假視頻信息。一時之間，視頻被大量播放，還引發(fā)了許多不明真相網(wǎng)民評論和轉(zhuǎn)發(fā)，嚴(yán)重干擾社會秩序。目前，東興市公安機關(guān)已依法對駱某某進(jìn)行處罰。

無獨有偶。同樣在廣西壯族自治區(qū)，賀州市的網(wǎng)警發(fā)現(xiàn)有人冒用賀州市平桂區(qū)人民政府辦公室的名義，在網(wǎng)上發(fā)布一條"關(guān)于賀州市第五高級中學(xué)小賣部經(jīng)營權(quán)調(diào)查情況的通報"。經(jīng)調(diào)查，網(wǎng)警發(fā)現(xiàn)通報內(nèi)容與政府發(fā)布通報的實際情況嚴(yán)重不符。這條虛假通報的發(fā)布人是山東青島人于某某，它在網(wǎng)上看到關(guān)于賀州市第五高級中學(xué)小賣部經(jīng)營權(quán)調(diào)查情況的通報后，為了蹭熱度為自己賬號漲粉，就使用 AI 工具將該報道重新生成了一篇內(nèi)容，與政府發(fā)布通報實際情況嚴(yán)重不相符的文章，并發(fā)布到網(wǎng)上。目前，公安機關(guān)已依法對其處以行政處罰。

官方下場表態(tài)：人工智能生成謠言成本低，治理須“下猛藥”。

利用AI技術(shù)蹭熱度，造謠，乃至偽造官方通報，重大社會事件的行為無疑是非常惡劣的。

相較于傳統(tǒng)的，由造謠者人工編造散播的謠言，使用AI工具來造謠的危害顯然更大。一方面，利用AI技術(shù)，造謠者只需要進(jìn)行簡單的描述，虛假文字信息，圖片，視頻就會立馬生成。相較于傳統(tǒng)造謠，AI造謠的成本更低。另一方面，最新的生成式AI技術(shù)足夠厲害，已經(jīng)接近“以假亂真”的效果。人工智能還能根據(jù)傳播渠道的特征，實施個性化的謠言生成，迷惑性更強，傳播范圍更廣，所產(chǎn)生的危害也會更大。更令人細(xì)思極恐的是，一些不法分子心懷鬼胎，會借助AI批量生產(chǎn)謠言并大量投放，擴散范圍廣，并面向特定受眾精準(zhǔn)投放。這種行為所造成的危害將不堪設(shè)想。

也正因此，官方也直接下場，直接定下了“要嚴(yán)厲打擊AI造謠等不法行為”的調(diào)子。人民網(wǎng)就表示：欲去“沉疴”還需“猛藥”。

人民網(wǎng)表示，由AI代勞完成謠言十分簡單，但為了核實這些的信息真假，相關(guān)機構(gòu)和個人往往要投入大量人力物力，消耗大量社會成本。一些謠言不僅給受害方造成巨大的精神傷害，也會產(chǎn)生不容低估的經(jīng)濟(jì)損失。

所以，可以從司法治理層面考慮，將“AI造謠”作為新型犯罪手段，積極探索其入罪的依據(jù)，加大懲處力度。

網(wǎng)絡(luò)本就不是不法之地，利用AI技術(shù)在網(wǎng)絡(luò)上大肆傳播虛假信息就更是錯上加錯。如今有了官方發(fā)聲，下場直接定性，我們有理由相信，AI亂象一定會被控制在監(jiān)管之下。

審核編輯 黃宇