原標(biāo)題：守護(hù)數(shù)智時代網(wǎng)絡(luò)安全

當(dāng)前，以ChatGPT、DeepSeek為代表的大語言模型(LLM)技術(shù)正加速重構(gòu)全球產(chǎn)業(yè)格局。截至2025年，我國生成式人工智能大模型備案數(shù)量已突破300個，LLM技術(shù)已深度嵌入企業(yè)核心業(yè)務(wù)場景。然而，技術(shù)紅利背后潛藏著網(wǎng)絡(luò)安全范式變革——傳統(tǒng)基于規(guī)則和特征的防護(hù)體系，正面臨人工智能賦能的復(fù)合型風(fēng)險挑戰(zhàn)。大語言模型應(yīng)用使企業(yè)網(wǎng)絡(luò)安全威脅呈現(xiàn)三大躍遷：其一，攻擊維度升級，深度偽造語音、人工智能驅(qū)動的釣魚郵件等新型社會工程攻擊，突破傳統(tǒng)網(wǎng)絡(luò)邊界防御邏輯;其二，數(shù)據(jù)風(fēng)險泛化，LLM訓(xùn)練數(shù)據(jù)中潛藏的敏感信息可能通過逆向工程泄露;其三，供應(yīng)鏈威脅加劇，LLM技術(shù)棧深度依賴開源框架和預(yù)訓(xùn)練模型庫，第三方API接口和模型權(quán)重中的隱蔽后門正成為關(guān)鍵基礎(chǔ)設(shè)施的安全盲區(qū)。

隨著大語言模型在各行業(yè)深度應(yīng)用，其網(wǎng)絡(luò)安全風(fēng)險治理已成為數(shù)字化轉(zhuǎn)型過程中的關(guān)鍵議題。相較于傳統(tǒng)網(wǎng)絡(luò)安全風(fēng)險，LLM特有的算法黑箱性、數(shù)據(jù)關(guān)聯(lián)性和技術(shù)依賴性特征，使得其風(fēng)險治理呈現(xiàn)高度復(fù)雜性與動態(tài)演化特點。面對大語言模型帶來的新興風(fēng)險，企業(yè)亟須構(gòu)建系統(tǒng)化應(yīng)對策略。特別是作為關(guān)鍵信息基礎(chǔ)設(shè)施運營主體的國有企業(yè)，建立健全大語言模型網(wǎng)絡(luò)安全風(fēng)險識別與治理機(jī)制，既是保障業(yè)務(wù)安全的現(xiàn)實需求，也是保障國有資產(chǎn)安全的必然選擇。

中核武漢核電運行技術(shù)股份有限公司“華龍一號”全范圍模擬機(jī)。

大語言模型應(yīng)用帶來的新興網(wǎng)絡(luò)安全風(fēng)險

技術(shù)內(nèi)生性風(fēng)險在于數(shù)據(jù)泄露與模型失控。大語言模型的技術(shù)架構(gòu)特性具有多重安全隱患。首先，模型訓(xùn)練依賴海量數(shù)據(jù)導(dǎo)致敏感信息泄露風(fēng)險增加。這種“訓(xùn)練數(shù)據(jù)提取攻擊”在企業(yè)私有化部署場景中尤為危險，因為訓(xùn)練數(shù)據(jù)往往包含商業(yè)機(jī)密和用戶隱私信息。其次，模型接口安全構(gòu)成另一重威脅。攻擊者或利用API令牌漏洞獲取部分用戶模型訪問權(quán)限，暴露LLM服務(wù)架構(gòu)中的安全斷層。更為嚴(yán)峻的是模型本身的“黑箱”特性導(dǎo)致其行為不可預(yù)測。在自動化運維中，模型不確定性可能導(dǎo)致生成未授權(quán)的數(shù)據(jù)訪問命令，若企業(yè)將此類輸出用于調(diào)整防火墻策略或調(diào)用內(nèi)部API，就可能觸發(fā)權(quán)限提升或數(shù)據(jù)泄露風(fēng)險。

業(yè)務(wù)場景化風(fēng)險在于智能化轉(zhuǎn)型中的安全塌陷。在企業(yè)數(shù)字化轉(zhuǎn)型實踐中，大模型技術(shù)與業(yè)務(wù)場景的深度融合催生了多重新型攻擊面。首先，在客服系統(tǒng)中，“越獄”攻擊正在威脅企業(yè)數(shù)據(jù)安全。在客服等交互場景中，用戶可通過特定提示詞序列誘導(dǎo)模型泄露系統(tǒng)指令或執(zhí)行未授權(quán)操作，這種威脅正在持續(xù)進(jìn)化，有學(xué)者提出的“雙意圖逃逸”攻擊在多款模型上實現(xiàn)高隱蔽性越獄。其次，在決策支持系統(tǒng)中，大語言模型的生成不可控性與對抗性樣本并存。有研究表明L-AutoDA方法能在不知模型內(nèi)部概率分布的條件下快速構(gòu)造有效擾動，提升在圖像與文本決策任務(wù)中的攻擊成功率。最后，攻擊者可通過“鏈?zhǔn)教崾咀⑷?rdquo;植入惡意指令，誘導(dǎo)模型執(zhí)行多步未授權(quán)操作。

治理結(jié)構(gòu)性風(fēng)險在于制度滯后與生態(tài)失衡?，F(xiàn)有網(wǎng)絡(luò)安全治理體系與LLM技術(shù)的快速演進(jìn)之間存在斷層。我國《生成式人工智能服務(wù)管理暫行辦法》與網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法等法律框架的銜接仍存在挑戰(zhàn)，使企業(yè)在部署LLM應(yīng)用時面臨合規(guī)不確定性。國際治理格局的碎片化進(jìn)一步加劇了合規(guī)困境。2023年12月歐盟出臺的《人工智能法案》將基礎(chǔ)模型列為“高風(fēng)險應(yīng)用”并設(shè)置了嚴(yán)格的合規(guī)要求，而我國的監(jiān)管框架更強(qiáng)調(diào)內(nèi)容安全和數(shù)據(jù)主權(quán)。這種標(biāo)準(zhǔn)差異導(dǎo)致跨國企業(yè)的人工智能戰(zhàn)略部署面臨多重合規(guī)挑戰(zhàn)。更深層次的挑戰(zhàn)在于技術(shù)生態(tài)的失衡。目前，LLM底層框架和硬件平臺仍嚴(yán)重依賴海外技術(shù)棧，國產(chǎn)化替代進(jìn)程相對緩慢，導(dǎo)致關(guān)鍵領(lǐng)域受制于人。

中核武漢核電運行技術(shù)股份有限公司福建分公司CCTV檢驗班組開展漳州核電2號機(jī)組穩(wěn)壓器及堆內(nèi)構(gòu)件役前檢查工作。

大語言模型網(wǎng)絡(luò)安全風(fēng)險應(yīng)對關(guān)鍵舉措

針對大語言模型深度應(yīng)用帶來的網(wǎng)絡(luò)安全風(fēng)險，需從多個角度采取應(yīng)對關(guān)鍵舉措，形成覆蓋技術(shù)層、管理層、生態(tài)層的風(fēng)險應(yīng)對矩陣，確保大語言模型在安全可控的前提下釋放技術(shù)紅利，助力數(shù)字經(jīng)濟(jì)健康發(fā)展。

升級技術(shù)防御體系

動態(tài)數(shù)據(jù)脫敏與訪問控制。針對大語言模型訓(xùn)練和應(yīng)用過程中的數(shù)據(jù)泄露風(fēng)險，企業(yè)應(yīng)構(gòu)建基于敏感信息識別的實時遮蔽方案，通過語義分析對輸入輸出內(nèi)容進(jìn)行動態(tài)脫敏。建立多層次訪問控制機(jī)制，基于用戶角色、場景屬性和數(shù)據(jù)敏感級別，實施差異化訪問權(quán)限管理，防范訓(xùn)練數(shù)據(jù)提取攻擊。

智能威脅感知與響應(yīng)。企業(yè)應(yīng)整合威脅情報與人工智能異常檢測能力，構(gòu)建新一代人工智能安全運營中心(SOC)平臺。該平臺需具備對大模型應(yīng)用特有攻擊模式的識別能力，包括提示詞注入、模型越獄和參數(shù)操縱等。通過引入防護(hù)框架實現(xiàn)對模型輸入輸出的全方位監(jiān)控，攔截惡意提示詞。

模型行為審計與追溯。構(gòu)建完善的日志審計機(jī)制，實現(xiàn)對模型全生命周期的行為監(jiān)控和追溯。記錄模型訓(xùn)練、調(diào)用和響應(yīng)的完整過程，包括數(shù)據(jù)來源、參數(shù)調(diào)整、輸入輸出內(nèi)容和用戶操作等關(guān)鍵信息。這種透明性不僅有助于安全事件的快速響應(yīng)，還能支持合規(guī)要求的滿足。建立模型行為回溯系統(tǒng)，支持在安全事件發(fā)生后快速定位問題根源，識別攻擊路徑和影響范圍。這一機(jī)制能有效應(yīng)對如抱抱臉(Hugging Face)平臺API令牌漏洞等安全事件，提高事件響應(yīng)效率和精準(zhǔn)度。

優(yōu)化管理體系

建立全生命周期風(fēng)險管理。企業(yè)應(yīng)建立覆蓋模型訓(xùn)練、部署、運維和退役的閉環(huán)管控流程。在訓(xùn)練階段，實施嚴(yán)格的數(shù)據(jù)來源合規(guī)審查，確保訓(xùn)練數(shù)據(jù)的合法性和安全性;建立訓(xùn)練數(shù)據(jù)標(biāo)注安全規(guī)范，防止有害信息進(jìn)入模型知識庫。在部署階段，強(qiáng)化模型安全測試，通過對抗樣本測試驗證模型防御能力;實施部署環(huán)境安全加固，防范外部攻擊。

明確“三位一體”責(zé)任機(jī)制。明確開發(fā)者、運維者和使用者的分級責(zé)任制，構(gòu)建多層次安全防護(hù)體系。模型開發(fā)者負(fù)責(zé)安全算法設(shè)計和代碼審查;運維者負(fù)責(zé)部署環(huán)境安全和運行監(jiān)控;使用者負(fù)責(zé)合規(guī)使用和異常報告。通過責(zé)任明確和協(xié)同配合，形成全方位的安全防護(hù)網(wǎng)絡(luò)。

組織常態(tài)化攻防演練。通過紅藍(lán)對抗檢驗防御體系有效性，發(fā)現(xiàn)并修復(fù)潛在安全漏洞。企業(yè)應(yīng)定期組織針對大模型應(yīng)用的專項安全演練，模擬各類攻擊場景，如提示詞注入、模型越獄等。

落實法規(guī)與生態(tài)協(xié)同

落實數(shù)據(jù)分類分級與跨境審查。嚴(yán)格落實數(shù)據(jù)安全法等法規(guī)要求，建立大模型數(shù)據(jù)分類分級管理體系。針對跨境數(shù)據(jù)流動，建立嚴(yán)格的審查機(jī)制，確保符合《生成式人工智能服務(wù)管理暫行辦法》中關(guān)于數(shù)據(jù)安全的規(guī)定。同時，加強(qiáng)對模型輸出的合規(guī)審查，確保生成內(nèi)容符合法律法規(guī)要求，避免因違規(guī)內(nèi)容生成而面臨合規(guī)風(fēng)險。

完善供應(yīng)鏈安全管理。強(qiáng)化第三方服務(wù)商安全評估與準(zhǔn)入機(jī)制，防范供應(yīng)鏈攻擊風(fēng)險。建立供應(yīng)商安全評估體系，從技術(shù)能力、安全措施和合規(guī)狀況等維度，對提供大模型相關(guān)產(chǎn)品和服務(wù)的供應(yīng)商進(jìn)行全面評估。

開發(fā)國產(chǎn)化替代與可信技術(shù)應(yīng)用。針對技術(shù)生態(tài)失衡問題，企業(yè)應(yīng)積極推進(jìn)自主可控技術(shù)在關(guān)鍵系統(tǒng)的部署，降低對國外技術(shù)的依賴。優(yōu)先選用自主可控的LLM框架和工具，加強(qiáng)與國內(nèi)技術(shù)提供商的合作，共同提升產(chǎn)品安全性和可靠性。對于必須使用的國外技術(shù)，實施嚴(yán)格的安全隔離和監(jiān)控措施。此外，企業(yè)應(yīng)建立國產(chǎn)化技術(shù)評估機(jī)制，定期評估國產(chǎn)替代方案的成熟度和適用性，制定分階段的國產(chǎn)化替代路線圖。國家工業(yè)信息安全發(fā)展研究中心發(fā)布的《工業(yè)控制系統(tǒng)信息安全解決方案》提供了實施技術(shù)自主可控的有效框架，可指導(dǎo)企業(yè)系統(tǒng)性推進(jìn)技術(shù)國產(chǎn)化進(jìn)程。

跨境合規(guī)與國際協(xié)同。面對國際治理格局碎片化的挑戰(zhàn)，企業(yè)應(yīng)建立適應(yīng)多區(qū)域監(jiān)管要求的合規(guī)管理框架。針對我國相關(guān)規(guī)定和歐盟《人工智能法案》，采用“合規(guī)即代碼”方法，將監(jiān)管要求轉(zhuǎn)化為可執(zhí)行的技術(shù)控制措施，實現(xiàn)合規(guī)管理的自動化和精準(zhǔn)化。同時，積極參與國際人工智能治理標(biāo)準(zhǔn)制定，提升我國在全球人工智能治理體系中的話語權(quán)，推動形成更加包容、平衡的國際規(guī)則。

中核武漢核電運行技術(shù)股份有限公司辦公樓外景。

構(gòu)筑數(shù)智時代的網(wǎng)絡(luò)安全新范式

大語言模型技術(shù)的迅猛發(fā)展為企業(yè)數(shù)字化轉(zhuǎn)型帶來前所未有的機(jī)遇，同時也催生了復(fù)雜多變的網(wǎng)絡(luò)安全挑戰(zhàn)。面對風(fēng)險交織疊加，企業(yè)需統(tǒng)籌發(fā)展和安全，以“主動免疫”理念重構(gòu)防御體系。摒棄傳統(tǒng)被動防御思維，將安全防護(hù)前置到技術(shù)研發(fā)和業(yè)務(wù)設(shè)計環(huán)節(jié)，構(gòu)建融合技術(shù)防御、管理優(yōu)化和合規(guī)協(xié)同的立體化安全框架。通過動態(tài)數(shù)據(jù)脫敏、智能威脅感知、全生命周期風(fēng)險管理等關(guān)鍵舉措，實現(xiàn)對新興安全風(fēng)險的早期識別和有效應(yīng)對，保障企業(yè)數(shù)字化轉(zhuǎn)型行穩(wěn)致遠(yuǎn)。

與此同時，政府、研究機(jī)構(gòu)、企業(yè)和技術(shù)社區(qū)應(yīng)形成合力，完善法規(guī)、強(qiáng)化技術(shù)攻關(guān)、促進(jìn)經(jīng)驗共享，秉持“安全優(yōu)先、創(chuàng)新驅(qū)動、開放協(xié)同、責(zé)任共擔(dān)”的理念，共同構(gòu)建安全、可靠、可信的人工智能應(yīng)用生態(tài)。通過凝聚多方智慧，構(gòu)建共治共享的安全生態(tài)，在把握大模型技術(shù)創(chuàng)新紅利的同時，有效防范和化解潛在風(fēng)險，為數(shù)字中國建設(shè)和數(shù)智時代的高質(zhì)量發(fā)展筑牢安全基石，開創(chuàng)大語言模型安全應(yīng)用的新局面。

標(biāo)簽：