8月25日，奇安信集團(tuán)宣布推出Q-GPT（奇安信大模型）安全機(jī)器人和大模型衛(wèi)士。

(資料圖片)

奇安信方面介紹，Q-GPT安全機(jī)器人是基于奇安信大模型的虛擬安全專家，可以全天候工作。一臺(tái)機(jī)器人等于60多位安全專家，可產(chǎn)生約2000萬元的運(yùn)營效益。大模型衛(wèi)士則集安全風(fēng)險(xiǎn)發(fā)現(xiàn)、大模型訪問控制、數(shù)據(jù)泄露管控、違法違規(guī)行為溯源、大模型應(yīng)用分析等于一體。

圖片來源：企業(yè)供圖

關(guān)于推出上述產(chǎn)品的原因，奇安信董事長齊向東表示，大模型的廣泛應(yīng)用在提高生產(chǎn)力的同時(shí)，也必然帶來不可忽視的安全隱患。

安全機(jī)器人未來是否會(huì)替代網(wǎng)絡(luò)安全專家？奇安信（SH688561，股價(jià)48.11元，市值330億元）副總裁、人工智能研究院院長張勇在接受包括《每日經(jīng)濟(jì)新聞》記者在內(nèi)的媒體采訪時(shí)表示，安全機(jī)器人不會(huì)代替安全專家，相反，將解放這批專家，更多地投入到其他更深、更高級的工作中。

大模型時(shí)代，解決數(shù)據(jù)泄露問題迫在眉睫

大模型熱潮持續(xù)，Microsoft365 Copilot、WPS AI和釘釘?shù)绒k公產(chǎn)品與大模型加速結(jié)合，同時(shí)，用友網(wǎng)絡(luò)（600588.SH，股價(jià)16.89元，市值579.85億元）和金蝶云等企業(yè)服務(wù)公司也先后推出針對企業(yè)服務(wù)的企業(yè)級大模型。

大模型在企業(yè)端的應(yīng)用正在不斷加速，與此同時(shí)，背后的安全問題也引發(fā)行業(yè)關(guān)注。

“ChatGPT等大模型，會(huì)泄露企業(yè)的商業(yè)秘密，已經(jīng)引起廣泛關(guān)注。據(jù)統(tǒng)計(jì)，在使用ChatGPT的員工中大多數(shù)會(huì)泄露數(shù)據(jù)，其中11%的數(shù)據(jù)為企業(yè)敏感數(shù)據(jù)。解決大模型數(shù)據(jù)泄露難題，迫在眉捷?！逼姘残偶瘓F(tuán)副總裁張卓表示。

張卓認(rèn)為，這些數(shù)據(jù)泄露，長此以往，可能會(huì)導(dǎo)致企業(yè)的競爭力逐步喪失。舉例而言，一家擁有核心知識(shí)產(chǎn)權(quán)與專利的某龍頭企業(yè)A，當(dāng)員工大量使用大模型來處理日常工作時(shí)，可能會(huì)導(dǎo)致公司的一些敏感技術(shù)信息在此過程中不斷提交給大模型；而大模型經(jīng)過不停地迭代、演化、訓(xùn)練，掌握了這些行業(yè)的一些先進(jìn)經(jīng)驗(yàn)和知識(shí)，而后幫助中下游某些研發(fā)能力欠缺的企業(yè)，通過靈活使用大模型，快速掌握先進(jìn)生產(chǎn)力，逐步提升公司能力，進(jìn)而導(dǎo)致龍頭企業(yè)A的核心競爭力喪失。

對于大模型在企業(yè)中的應(yīng)用，張卓建議，企業(yè)應(yīng)當(dāng)關(guān)注大模型使用帶來的安全風(fēng)險(xiǎn)；管控使用GPT類產(chǎn)品的人員、應(yīng)用、數(shù)據(jù)；監(jiān)控并記錄GPT類應(yīng)用訪問行為，保護(hù)關(guān)鍵業(yè)務(wù)數(shù)據(jù)不泄露；對于使用GPT類工具的內(nèi)部人員，做好相應(yīng)權(quán)限限制；限制在GPT類工具上使用復(fù)制粘貼等行為。

齊向東也表示，大模型的廣泛應(yīng)用在提高生產(chǎn)力的同時(shí)，也必然帶來不可忽視的安全隱患。這可能造成企業(yè)對大模型陷入想用而不敢用的兩難境地。這也是奇安信發(fā)布大模型衛(wèi)士的原因，即希望通過大模型衛(wèi)士幫助企業(yè)規(guī)范員工，正確使用大模型產(chǎn)品協(xié)助工作。

齊向東 圖片來源：企業(yè)供圖

網(wǎng)絡(luò)安全專家稀缺，大模型補(bǔ)位

齊向東介紹，在網(wǎng)絡(luò)安全方面，政企機(jī)構(gòu)長期面臨三大困擾：告警疲勞、專家稀缺以及效率瓶頸。

首先，攻擊者手法層出不窮，攻擊頻次日益密集，企業(yè)每天都會(huì)產(chǎn)生海量告警，有限的安全專家無暇應(yīng)對，通常只有1%的告警被研判，99%的告警被無奈放棄，形成告警疲勞。

其次，安全本就是一個(gè)對知識(shí)、技術(shù)和實(shí)戰(zhàn)經(jīng)驗(yàn)要求很高的行業(yè)，高水平人才難以快速培養(yǎng)，企業(yè)面臨著專家少的難題。據(jù)教育部統(tǒng)計(jì)，到2027年，我國網(wǎng)絡(luò)安全人員缺口將達(dá)到327萬。

第三，人本身受制于精力、情緒、狀態(tài)等多方面因素，不可能全天候工作，形成效率瓶頸，也就是“加人不劃算、不加人干不完”。

奇安信方面稱，Q-GPT安全機(jī)器人的推出，是為了解決網(wǎng)絡(luò)安全行業(yè)面臨的專家稀少、告警疲勞以及效率低的痛點(diǎn)。

未來，安全機(jī)器人是否會(huì)替代網(wǎng)絡(luò)安全專家？張勇表示，安全機(jī)器人會(huì)代替一部分安全專家的工作，但是不會(huì)替代安全專家?！按竽Ｐ褪莻€(gè)新技術(shù)，新技術(shù)肯定會(huì)造成一些原有崗位被代替，與此同時(shí)，它一定會(huì)創(chuàng)造更多、更新、更高價(jià)值的崗位。”他進(jìn)一步表示，安全機(jī)器人可以代替一部分安全專家的常規(guī)告警分析、研判等工作，但同時(shí)，也是解放這批專家，讓他們能夠更多地投入到其他更深入、更高級的工作中，研判更高級的知識(shí)。另外，大模型也需要安全專家將自己的知識(shí)歸納、總結(jié)、提升，把它變成數(shù)據(jù)，進(jìn)而對大模型進(jìn)行訓(xùn)練。

值得一提的是，當(dāng)前，大模型熱潮逐步轉(zhuǎn)向?qū)I(yè)大模型的競爭，頭部企業(yè)對行業(yè)大模型的布局也在加速。

8月初，三六零集團(tuán)也發(fā)布安全行業(yè)大模型“360安全大模型”，以提升網(wǎng)絡(luò)安全服務(wù)效果。彼時(shí)，三六零集團(tuán)創(chuàng)始人周鴻祎稱，該大模型“目前安全攻防判斷準(zhǔn)確率已超96%”。