(資料圖片僅供參考)

格隆匯4月18日丨有投資者向亞信安全(688225.SH)提問：大家比較關(guān)注國外ChatGPT等AI新技術(shù)在安全的一些應(yīng)用，請(qǐng)問兩個(gè)方面的問題，第一是從技術(shù)發(fā)展上可能會(huì)帶來什么樣的安全問題？另外就是前段時(shí)間微軟、谷歌要把AI能力植入到整個(gè)安全技術(shù)體系內(nèi)，公司怎么去看技術(shù)發(fā)展趨勢(shì)以及是否會(huì)有相應(yīng)的布局？

亞信安全回復(fù)：這個(gè)問題其實(shí)是兩個(gè)方面，先回答AI對(duì)安全的影響。原來我們一直在談公司的平臺(tái)化戰(zhàn)略是云化、智能和聯(lián)動(dòng)，其中的“智能”實(shí)際上從那時(shí)候開始一直在做相應(yīng)的布局，只不過最近ChatGPT的推出讓大家突然發(fā)現(xiàn)AI的很多算法和模型超出了大家的預(yù)期，實(shí)際上整個(gè)AI構(gòu)架與網(wǎng)絡(luò)安全行業(yè)極其契合。在大模型中一方面要有相應(yīng)的海量數(shù)據(jù)(603138)，另一方面要有相應(yīng)的模型或者規(guī)則，最后是相應(yīng)的反饋，甚至把反饋輸出給機(jī)器人(300024)、虛擬人等完成行動(dòng)處置。這與網(wǎng)絡(luò)安全行業(yè)基于威脅情報(bào)以及安全事件告警記錄等海量信息采集、訓(xùn)練形成模型是類似的路徑，不管是在做APT防護(hù)還是各種各樣的防御，威脅發(fā)現(xiàn)能力的規(guī)則要有相應(yīng)的模型，只不過原來這些規(guī)則絕大部分要基于專家、基于攻防研究去設(shè)置，然后才會(huì)進(jìn)行相應(yīng)的處置和響應(yīng)。從這個(gè)鏈條來看，我們可以看到AI的應(yīng)用在于取代專家的判斷或者加強(qiáng)規(guī)則的設(shè)立。AI底層技術(shù)在云網(wǎng)邊端相應(yīng)的產(chǎn)品、威脅情報(bào)、核心技術(shù)引擎等方面都得到了很快的發(fā)展與應(yīng)用。不管是XDR還是我們講到的態(tài)勢(shì)感知等產(chǎn)品，都會(huì)應(yīng)用AI技術(shù)，未來我們給客戶提供的運(yùn)營能力以及應(yīng)急處置能力都可以用AI進(jìn)行部分替代和取代，甚至比訓(xùn)練有素的安全專家會(huì)更加強(qiáng)大。從這個(gè)維度講，AI的注入和賦能對(duì)整個(gè)產(chǎn)業(yè)會(huì)產(chǎn)生深刻的影響，帶來巨大的幫助。第二，AI本身的挑戰(zhàn)。AI大模型基于海量數(shù)據(jù)和相應(yīng)的訓(xùn)練，在模型中大家可以發(fā)現(xiàn)提問的技巧特別關(guān)鍵，提問人有沒有解構(gòu)的能力、把問題設(shè)計(jì)好是比較重要的。一方面，訓(xùn)練的數(shù)據(jù)是不是存在毒藥、提問和處置在應(yīng)用的時(shí)候是否出現(xiàn)問題等等會(huì)對(duì)數(shù)字化系統(tǒng)帶來巨大的挑戰(zhàn)，也就是說可以數(shù)據(jù)投毒，甚至黑客組織、APT組織也可以利用模型能力來高效地發(fā)起攻擊。所以在這個(gè)過程中怎么防范在數(shù)據(jù)訓(xùn)練和提問的過程中避免出現(xiàn)安全風(fēng)險(xiǎn)是很大的挑戰(zhàn)，也是一個(gè)很大的問題。其實(shí)安全行業(yè)和各國政府高度重視ChatGPT帶來的安全問題，不僅是我們所看到的狹義的網(wǎng)絡(luò)安全和數(shù)據(jù)安全，甚至于上升到了社會(huì)意識(shí)、輿論操作的問題，所以這里面我們認(rèn)為會(huì)有很多的挑戰(zhàn)，網(wǎng)安行業(yè)會(huì)在相關(guān)技術(shù)應(yīng)用如同態(tài)加密等密碼技術(shù)以及很多技術(shù)層面對(duì)其進(jìn)行相應(yīng)的防御。

關(guān)鍵詞：