從防御視角探討ChatGPT對(duì)網(wǎng)絡(luò)安全的影響
專家介紹
ChatGPT的核心優(yōu)勢(shì)是通過(guò)基于自然語(yǔ)言處理技術(shù)模型、情景模型和語(yǔ)言模型來(lái)自動(dòng)生成文章和代碼。在前面的文章中，我們從攻擊視角探討了ChatGPT對(duì)網(wǎng)絡(luò)安全的影響，本文將從防御視角來(lái)探討ChatGPT在網(wǎng)絡(luò)安全領(lǐng)域的作用，并進(jìn)行能力評(píng)估。
ChatGPT在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用主要有以下幾個(gè)方面：1.威脅檢測(cè)：（1）提取簽名規(guī)則（2）識(shí)別惡意代碼2.代碼審計(jì)：分析代碼漏洞3.威脅情報(bào)：從文本中提取情報(bào)4.安全運(yùn)營(yíng)：生成安全運(yùn)營(yíng)報(bào)告
威脅檢測(cè)：提取簽名規(guī)則
能力指數(shù)：★★★☆☆
眾所周知，GitHub上有大量開(kāi)源的簽名規(guī)則，例如Yara、Sigma、ES等，可以用于威脅檢測(cè)。由于ChatGPT訓(xùn)練數(shù)據(jù)包含GitHub內(nèi)容，因此我們可以測(cè)試ChatGPT的規(guī)則提取能力。我們首先要求ChatGPT輸出檢測(cè)挖礦木馬的Sigma規(guī)則。
作為一位專注于威脅檢測(cè)的從業(yè)者，我認(rèn)為上述答案缺乏細(xì)節(jié)，遠(yuǎn)沒(méi)有涵蓋全面，尤其是沒(méi)有提及數(shù)據(jù)采集的類型。于是我追加了問(wèn)題中的要求。
這次給出的答案十分全面，但是檢測(cè)規(guī)則仍然不夠完善，經(jīng)過(guò)多次詢問(wèn)后，最終得出的檢測(cè)規(guī)則如下：
這些規(guī)則雖然不能直接應(yīng)用于產(chǎn)品，但是對(duì)于威脅分析而言，能夠迅速掌握檢測(cè)規(guī)則的概貌，也算是一種很不錯(cuò)的幫助。
結(jié)論：ChatGPT威脅檢測(cè)提取簽名規(guī)則的能力指數(shù)評(píng)分為★★★☆☆，勉強(qiáng)及格。
威脅檢測(cè)：識(shí)別惡意代碼
能力指數(shù)：★★★★☆
ChatGPT有能力理解和分析代碼，我們讓ChatGPT來(lái)分析下前一篇文章所生成的webshell后門。第一步，識(shí)別一句話木馬。
可以看到ChatGPT給出了正確回答，同時(shí)給出了非常不錯(cuò)的判定理由。我們繼續(xù)使用base64解碼的webshell，讓ChatGPT進(jìn)行識(shí)別，ChatGPT依然應(yīng)對(duì)自如。
第二步，識(shí)別變種的webshell。接下來(lái)試試免殺的webshell。下面是一個(gè)利用在高版本php語(yǔ)法不換行，來(lái)執(zhí)行命令繞過(guò)常規(guī)檢測(cè)的webshell，我們讓ChatGPT來(lái)檢測(cè)。
ChatGPT給出的判定結(jié)果完全正確，并且其反引號(hào)可以用來(lái)執(zhí)行命令的理由也非常充分。前方高能！?。?/strong>下面是一個(gè)難度極高的檢測(cè)示例，使用字符串替換和函數(shù)方式運(yùn)行webshell命令。
可以看到，ChatGPT給出的答案完全正確，其解釋更是令人驚嘆。要知道，人看這段代碼可能沒(méi)什么，要交給機(jī)器自動(dòng)化判定，必須要通過(guò)對(duì)PHP腳本的詞法分析和語(yǔ)義分析才能獲得，但在ChatGPT看來(lái)，這似乎不算什么難事。
結(jié)論：綜上所述，ChatGPT 在惡意腳本類代碼識(shí)別方面表現(xiàn)出色，能力指數(shù)評(píng)分為★★★★☆。其 AI 所給出的結(jié)果令人驚嘆，這歸功于它出色的代碼分析能力。ChatGPT為何擅長(zhǎng)代碼分析呢？●使用的文本生成模型GPT（Generative Pre-trained Transformer）能夠?qū)Υa進(jìn)行分析，以確定其意圖。●訓(xùn)練所使用的數(shù)據(jù)量巨大，ChatGPT從Stack Overflow、github等大量的語(yǔ)料里訓(xùn)練模型。●ChatGPT可以學(xué)習(xí)特定的編程語(yǔ)言的語(yǔ)義，生成更加準(zhǔn)確的語(yǔ)義分析結(jié)果。代碼審計(jì)：分析代碼漏洞
能力指數(shù)：★★☆☆☆
前面提到ChatGPT擅長(zhǎng)代碼分析，接下來(lái)我們看看它在代碼審計(jì)方面的能力，是否可以幫助我們發(fā)現(xiàn)代碼中存在的問(wèn)題。首先，我們以比較簡(jiǎn)單的存在SQL注入的代碼審計(jì)為例：
ChatGPT的回答還算讓人滿意。不過(guò)，當(dāng)我們嘗試一個(gè)不存在SQL注入的代碼時(shí)，ChatGPT就開(kāi)始“一本正經(jīng)的胡說(shuō)八道”了：
實(shí)際上，上面的代碼可以有效地防止SQL注入，原因如下：1.采用了預(yù)編譯，避免了拼接SQL語(yǔ)句，清晰地劃分了代碼與數(shù)據(jù)。2.檢測(cè)了數(shù)據(jù)類型是否僅為數(shù)字。3.判定結(jié)果是否僅為一條，有效防止“拖庫(kù)”攻擊。ChatGPT回答錯(cuò)誤，進(jìn)一步追問(wèn)ChatGPT，讓其給出poc代碼。
果然，它給出的答案是錯(cuò)的。
結(jié)論：ChatGPT 的代碼審計(jì)能力指數(shù)為★★☆☆☆。總體而言，ChatGPT 對(duì)代碼審計(jì)有一定的幫助，但是需要人工核實(shí)它回答的結(jié)果是否正確。威脅情報(bào)：從文本提取情報(bào)
能力指數(shù)：★★☆☆☆
從公開(kāi)報(bào)道中摘取有關(guān)情報(bào)，是安全領(lǐng)域最為常見(jiàn)的自然語(yǔ)言處理應(yīng)用場(chǎng)景之一。我們讓ChatGPT從CrowdStrike的“麻辣香鍋”惡意軟件公開(kāi)報(bào)道中，提取出一份中文摘要。
看起來(lái)還不錯(cuò)！我們?cè)僮孋hatGPT提取響尾蛇組織使用的TTP。
上述回答給出的鏈接已經(jīng)失效，無(wú)法證實(shí)其答案的正確性。
結(jié)論：ChatGPT從文本提取情報(bào)的能力指數(shù)為★★☆☆☆。綜合來(lái)看，ChatGPT 對(duì)于提取情報(bào)有一定的幫助，但還需要人工核實(shí)。安全運(yùn)營(yíng)：生成安全運(yùn)營(yíng)報(bào)告
能力指數(shù)：★★☆☆☆
ChatGPT可以提升安全運(yùn)營(yíng)效率，已有公開(kāi)報(bào)道稱它可以解析安全日志，針對(duì)可能存在的威脅事件，提供詳細(xì)的處置建議，并發(fā)布相應(yīng)的事件通告；還可以生成用戶報(bào)告，支持組織有效地管理安全風(fēng)險(xiǎn)。安全運(yùn)營(yíng)的最終目標(biāo)是實(shí)現(xiàn)智能運(yùn)營(yíng)，而最具挑戰(zhàn)性的工作是在海量告警中發(fā)現(xiàn)有效攻擊。ChatGPT目前無(wú)法實(shí)現(xiàn)海量告警研判分析，仍然需要安全運(yùn)營(yíng)專家的參與，才能達(dá)到最佳效果。 結(jié)論：ChatGPT生成安全運(yùn)營(yíng)報(bào)告的能力指數(shù)為★★☆☆☆。基于ChatGPT構(gòu)建安全大模型
看到ChatGPT在網(wǎng)絡(luò)安全防御方面的諸多優(yōu)點(diǎn)，很多安全企業(yè)可能蠢蠢欲動(dòng)，希望做自己的安全大模型。如何讓大模型適配安全場(chǎng)景呢？很多人可能都會(huì)想到在ChatGPT這樣的大模型基礎(chǔ)上，針對(duì)安全領(lǐng)域重新訓(xùn)練一個(gè)增量模型。但是有幾個(gè)關(guān)鍵問(wèn)題需要考慮：1.訓(xùn)練成本：大模型訓(xùn)練成本取決于訓(xùn)練數(shù)據(jù)的大小和模型復(fù)雜性。當(dāng)訓(xùn)練數(shù)據(jù)更大和模型更復(fù)雜時(shí)，訓(xùn)練成本會(huì)更高，因?yàn)樾枰嗟挠?jì)算資源來(lái)處理更多的數(shù)據(jù)。2.模型調(diào)整：針對(duì)安全運(yùn)營(yíng)場(chǎng)景，需要調(diào)整大模型的數(shù)據(jù)輸入，用于海量安全事件的研判分析，這需要安全運(yùn)營(yíng)和AI專家投入。3.最終效果：由于安全事件本質(zhì)上是低概率事件，大規(guī)模對(duì)于少見(jiàn)的，甚至是新型的安全攻擊類型，當(dāng)前還無(wú)法有效處理。結(jié)語(yǔ)
ChatGPT使AI在網(wǎng)絡(luò)安全防御中的應(yīng)用更為廣泛，它是一種基于深度學(xué)習(xí)的自然語(yǔ)言生成技術(shù)，可以幫助網(wǎng)絡(luò)安全防御人員提取簽名規(guī)則，識(shí)別惡意代碼，提升代碼審計(jì)和情報(bào)提取的效率；幫助安全運(yùn)營(yíng)人員分析日志，生成安全運(yùn)營(yíng)報(bào)告，給出有效的防護(hù)措施建議。鑒于這些益處，許多企業(yè)希望構(gòu)建適配安全場(chǎng)景的大模型，這就必須考慮訓(xùn)練成本、模型調(diào)整這些因素，并且大模型對(duì)于少見(jiàn)的、甚至是新型的安全攻擊類型，當(dāng)前還無(wú)法有效處理。即便如此，我們?nèi)匀幌嘈?，ChatGPT等大模型的出現(xiàn)一定會(huì)對(duì)網(wǎng)絡(luò)安全領(lǐng)域帶來(lái)很大改變，實(shí)現(xiàn)智能分析和運(yùn)營(yíng)，只是一個(gè)時(shí)間問(wèn)題。下期預(yù)告
下期我們將看看ChatGPT是不是無(wú)所不能，有沒(méi)有干不了的事情呢？敬請(qǐng)期待。
往期精彩推薦
點(diǎn)擊“閱讀原文”，了解更多華為數(shù)據(jù)通信資訊！
原文標(biāo)題：從防御視角探討ChatGPT對(duì)網(wǎng)絡(luò)安全的影響
文章出處：【微信公眾號(hào)：華為數(shù)據(jù)通信】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
華為
+關(guān)注
關(guān)注
215文章
34187瀏覽量
250603
原文標(biāo)題：從防御視角探討ChatGPT對(duì)網(wǎng)絡(luò)安全的影響
文章出處：【微信號(hào)：Huawei_Fixed，微信公眾號(hào)：華為數(shù)據(jù)通信】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
國(guó)產(chǎn)網(wǎng)絡(luò)安全主板在防御網(wǎng)絡(luò)攻擊中的實(shí)際應(yīng)用
在現(xiàn)代信息技術(shù)迅猛發(fā)展的背景下，網(wǎng)絡(luò)安全問(wèn)題變得越來(lái)越復(fù)雜和嚴(yán)峻。從企業(yè)到個(gè)人用戶，各類網(wǎng)絡(luò)攻擊事件頻繁發(fā)生，威脅著數(shù)據(jù)的安全和系統(tǒng)的穩(wěn)定。近年來(lái)，我們看到各種形式的
如何利用IP查詢技術(shù)保護(hù)網(wǎng)絡(luò)安全？
在數(shù)字化時(shí)代，企業(yè)網(wǎng)絡(luò)面臨著復(fù)雜多變的威脅與挑戰(zhàn)。因此，構(gòu)建一個(gè)穩(wěn)固的網(wǎng)絡(luò)安全體系至關(guān)重要。而IP查詢技術(shù)，作為網(wǎng)絡(luò)安全防御體系中的一把利劍，正日益成為企業(yè)防范網(wǎng)絡(luò)風(fēng)險(xiǎn)的重要工具。 什
IP風(fēng)險(xiǎn)畫像如何維護(hù)網(wǎng)絡(luò)安全
在當(dāng)今數(shù)字化時(shí)代，互聯(lián)網(wǎng)已成為我們生活、工作不可或缺的一部分。然而，隨著網(wǎng)絡(luò)應(yīng)用的日益廣泛，網(wǎng)絡(luò)安全問(wèn)題也日益凸顯。為了有效應(yīng)對(duì)網(wǎng)絡(luò)安全挑戰(zhàn)，IP風(fēng)險(xiǎn)畫像技術(shù)應(yīng)運(yùn)而生，正逐步成為構(gòu)建網(wǎng)絡(luò)安全
網(wǎng)絡(luò)安全技術(shù)商CrowdStrike與英偉達(dá)合作
網(wǎng)絡(luò)安全技術(shù)商CrowdStrike與英偉達(dá)合作共同研發(fā)更先進(jìn)的網(wǎng)絡(luò)防御解決方案；提升CrowdStrike Falcon平臺(tái)的威脅檢測(cè)速度和準(zhǔn)確性。將通過(guò)人工智能原生平臺(tái)CrowdStrike
海外高防服務(wù)器對(duì)網(wǎng)絡(luò)安全保護(hù)的影響
海外高防服務(wù)器作為一種專門設(shè)計(jì)用于抵御分布式拒絕服務(wù)(DDoS)攻擊和其他網(wǎng)絡(luò)威脅的強(qiáng)大工具，對(duì)網(wǎng)絡(luò)安全保護(hù)起著至關(guān)重要的作用。這類服務(wù)器通常部署在具有豐富帶寬資源和先進(jìn)防御機(jī)制的國(guó)際數(shù)據(jù)中心，為全球范圍內(nèi)的用戶提供了一層堅(jiān)固的
人工智能大模型在工業(yè)網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用
僅提升了網(wǎng)絡(luò)安全的防護(hù)能力，還推動(dòng)了工業(yè)網(wǎng)絡(luò)安全的智能化轉(zhuǎn)型。本文將從人工智能大模型的基本概念、特點(diǎn)出發(fā)，探討其在工業(yè)網(wǎng)絡(luò)安全領(lǐng)域的具體應(yīng)用、優(yōu)勢(shì)以及面臨的挑戰(zhàn)。
揭秘！家用路由器如何保障你的網(wǎng)絡(luò)安全
家用路由器保障網(wǎng)絡(luò)安全需選知名品牌和型號(hào)，設(shè)置復(fù)雜密碼并開(kāi)啟防火墻，定期更新固件，使用安全協(xié)議，合理規(guī)劃網(wǎng)絡(luò)布局，及時(shí)發(fā)現(xiàn)并處理異常。提高家庭成員網(wǎng)絡(luò)安全意識(shí)共同維護(hù)
專家解讀 | NIST網(wǎng)絡(luò)安全框架（1）：框架概覽
本文主要探討NIST CSF框架的起源目標(biāo)、內(nèi)容組成，及其在網(wǎng)絡(luò)安全風(fēng)險(xiǎn)管理中的關(guān)鍵作用，通過(guò)采用該框架，組織能夠更有效地實(shí)施風(fēng)險(xiǎn)識(shí)別、安全保護(hù)、威脅檢測(cè)和事件響應(yīng)，從而構(gòu)建更加堅(jiān)固和彈性的網(wǎng)
企業(yè)網(wǎng)絡(luò)安全的全方位解決方案
從安全域劃分到云端管理，全面構(gòu)建企業(yè)網(wǎng)絡(luò)安全防線 在數(shù)字化浪潮席卷全球的今天，企業(yè)網(wǎng)絡(luò)安全已經(jīng)成為商業(yè)運(yùn)營(yíng)中不可忽視的一部分。隨著企業(yè)數(shù)字資產(chǎn)價(jià)值的不斷攀升，
華為提出業(yè)界首個(gè)L4級(jí)AI安全智能體，邁入智能防御新時(shí)代
2024華為分析師大會(huì)期間，在“加速邁向網(wǎng)絡(luò)智能化”論壇上，華為提出業(yè)界首個(gè)L4級(jí)AI安全智能體，該智能體架構(gòu)為人工智能時(shí)代全球網(wǎng)絡(luò)安全防御提供了新的思路和方向，引領(lǐng)網(wǎng)絡(luò)安全邁入智能
自主可控是增強(qiáng)網(wǎng)絡(luò)安全的前提
后成立了中央網(wǎng)絡(luò)安全和信息化領(lǐng)導(dǎo)小組，這標(biāo)志著我國(guó)網(wǎng)絡(luò)空間安全國(guó)家戰(zhàn)略已經(jīng)確立。 ? ?? 網(wǎng)絡(luò)安全的內(nèi)涵可以包括：? ? －信息安全。它是
谷歌在日本設(shè)立網(wǎng)絡(luò)防御中心
近日，谷歌在日本東京宣布設(shè)立亞太地區(qū)的首個(gè)網(wǎng)絡(luò)防御中心，此舉標(biāo)志著谷歌在加強(qiáng)地區(qū)網(wǎng)絡(luò)安全方面的重大進(jìn)展。該中心將作為谷歌與日本政府、企業(yè)、大學(xué)等合作的重要平臺(tái)，共同推進(jìn)網(wǎng)絡(luò)安全政策研究
知語(yǔ)云全景監(jiān)測(cè)技術(shù)：現(xiàn)代安全防護(hù)的全面解決方案
防護(hù)的全面解決方案，憑借其強(qiáng)大的實(shí)時(shí)監(jiān)測(cè)、智能分析、主動(dòng)防御等功能，以及易于部署、易于管理的優(yōu)勢(shì)，正在為越來(lái)越多的用戶所認(rèn)可和應(yīng)用。在未來(lái)，隨著技術(shù)的不斷進(jìn)步和應(yīng)用場(chǎng)景的不斷拓展，知語(yǔ)云全景監(jiān)測(cè)技術(shù)必將在網(wǎng)絡(luò)安全領(lǐng)域發(fā)揮更加重要的作用，為構(gòu)建
發(fā)表于 02-23 16:40
APP盾的防御機(jī)制及應(yīng)用場(chǎng)景
移動(dòng)應(yīng)用（APP）在我們?nèi)粘Ｉ钪邪缪葜絹?lái)越重要的角色，但隨之而來(lái)的是各種網(wǎng)絡(luò)安全威脅的增加。為了保障APP的安全性，APP盾作為一種專門設(shè)計(jì)用于防御移動(dòng)應(yīng)用威脅的工具得以廣泛應(yīng)用。本文將深入
【虹科分享】一種動(dòng)態(tài)防御策略——移動(dòng)目標(biāo)防御（MTD）
文章主要探討了網(wǎng)絡(luò)安全領(lǐng)域中的動(dòng)態(tài)防御策略，特別是針對(duì)規(guī)避性威脅的“移動(dòng)目標(biāo)防御”（MTD）技術(shù)。本文分析了攻擊者常用的規(guī)避技術(shù)，并探討了如
工商網(wǎng)監(jiān)
評(píng)論