原標題：守護數(shù)智時代網(wǎng)絡安全

當前，以ChatGPT、DeepSeek為代表的大語言模型(LLM)技術正加速重構全球產(chǎn)業(yè)格局。截至2025年，我國生成式人工智能大模型備案數(shù)量已突破300個，LLM技術已深度嵌入企業(yè)核心業(yè)務場景。然而，技術紅利背后潛藏著網(wǎng)絡安全范式變革——傳統(tǒng)基于規(guī)則和特征的防護體系，正面臨人工智能賦能的復合型風險挑戰(zhàn)。大語言模型應用使企業(yè)網(wǎng)絡安全威脅呈現(xiàn)三大躍遷：其一，攻擊維度升級，深度偽造語音、人工智能驅動的釣魚郵件等新型社會工程攻擊，突破傳統(tǒng)網(wǎng)絡邊界防御邏輯;其二，數(shù)據(jù)風險泛化，LLM訓練數(shù)據(jù)中潛藏的敏感信息可能通過逆向工程泄露;其三，供應鏈威脅加劇，LLM技術棧深度依賴開源框架和預訓練模型庫，第三方API接口和模型權重中的隱蔽后門正成為關鍵基礎設施的安全盲區(qū)。

隨著大語言模型在各行業(yè)深度應用，其網(wǎng)絡安全風險治理已成為數(shù)字化轉型過程中的關鍵議題。相較于傳統(tǒng)網(wǎng)絡安全風險，LLM特有的算法黑箱性、數(shù)據(jù)關聯(lián)性和技術依賴性特征，使得其風險治理呈現(xiàn)高度復雜性與動態(tài)演化特點。面對大語言模型帶來的新興風險，企業(yè)亟須構建系統(tǒng)化應對策略。特別是作為關鍵信息基礎設施運營主體的國有企業(yè)，建立健全大語言模型網(wǎng)絡安全風險識別與治理機制，既是保障業(yè)務安全的現(xiàn)實需求，也是保障國有資產(chǎn)安全的必然選擇。

中核武漢核電運行技術股份有限公司“華龍一號”全范圍模擬機。

大語言模型應用帶來的新興網(wǎng)絡安全風險

技術內生性風險在于數(shù)據(jù)泄露與模型失控。大語言模型的技術架構特性具有多重安全隱患。首先，模型訓練依賴海量數(shù)據(jù)導致敏感信息泄露風險增加。這種“訓練數(shù)據(jù)提取攻擊”在企業(yè)私有化部署場景中尤為危險，因為訓練數(shù)據(jù)往往包含商業(yè)機密和用戶隱私信息。其次，模型接口安全構成另一重威脅。攻擊者或利用API令牌漏洞獲取部分用戶模型訪問權限，暴露LLM服務架構中的安全斷層。更為嚴峻的是模型本身的“黑箱”特性導致其行為不可預測。在自動化運維中，模型不確定性可能導致生成未授權的數(shù)據(jù)訪問命令，若企業(yè)將此類輸出用于調整防火墻策略或調用內部API，就可能觸發(fā)權限提升或數(shù)據(jù)泄露風險。

業(yè)務場景化風險在于智能化轉型中的安全塌陷。在企業(yè)數(shù)字化轉型實踐中，大模型技術與業(yè)務場景的深度融合催生了多重新型攻擊面。首先，在客服系統(tǒng)中，“越獄”攻擊正在威脅企業(yè)數(shù)據(jù)安全。在客服等交互場景中，用戶可通過特定提示詞序列誘導模型泄露系統(tǒng)指令或執(zhí)行未授權操作，這種威脅正在持續(xù)進化，有學者提出的“雙意圖逃逸”攻擊在多款模型上實現(xiàn)高隱蔽性越獄。其次，在決策支持系統(tǒng)中，大語言模型的生成不可控性與對抗性樣本并存。有研究表明L-AutoDA方法能在不知模型內部概率分布的條件下快速構造有效擾動，提升在圖像與文本決策任務中的攻擊成功率。最后，攻擊者可通過“鏈式提示注入”植入惡意指令，誘導模型執(zhí)行多步未授權操作。

治理結構性風險在于制度滯后與生態(tài)失衡。現(xiàn)有網(wǎng)絡安全治理體系與LLM技術的快速演進之間存在斷層。我國《生成式人工智能服務管理暫行辦法》與網(wǎng)絡安全法、數(shù)據(jù)安全法等法律框架的銜接仍存在挑戰(zhàn)，使企業(yè)在部署LLM應用時面臨合規(guī)不確定性。國際治理格局的碎片化進一步加劇了合規(guī)困境。2023年12月歐盟出臺的《人工智能法案》將基礎模型列為“高風險應用”并設置了嚴格的合規(guī)要求，而我國的監(jiān)管框架更強調內容安全和數(shù)據(jù)主權。這種標準差異導致跨國企業(yè)的人工智能戰(zhàn)略部署面臨多重合規(guī)挑戰(zhàn)。更深層次的挑戰(zhàn)在于技術生態(tài)的失衡。目前，LLM底層框架和硬件平臺仍嚴重依賴海外技術棧，國產(chǎn)化替代進程相對緩慢，導致關鍵領域受制于人。

中核武漢核電運行技術股份有限公司福建分公司CCTV檢驗班組開展漳州核電2號機組穩(wěn)壓器及堆內構件役前檢查工作。

大語言模型網(wǎng)絡安全風險應對關鍵舉措

針對大語言模型深度應用帶來的網(wǎng)絡安全風險，需從多個角度采取應對關鍵舉措，形成覆蓋技術層、管理層、生態(tài)層的風險應對矩陣，確保大語言模型在安全可控的前提下釋放技術紅利，助力數(shù)字經(jīng)濟健康發(fā)展。

升級技術防御體系

動態(tài)數(shù)據(jù)脫敏與訪問控制。針對大語言模型訓練和應用過程中的數(shù)據(jù)泄露風險，企業(yè)應構建基于敏感信息識別的實時遮蔽方案，通過語義分析對輸入輸出內容進行動態(tài)脫敏。建立多層次訪問控制機制，基于用戶角色、場景屬性和數(shù)據(jù)敏感級別，實施差異化訪問權限管理，防范訓練數(shù)據(jù)提取攻擊。

智能威脅感知與響應。企業(yè)應整合威脅情報與人工智能異常檢測能力，構建新一代人工智能安全運營中心(SOC)平臺。該平臺需具備對大模型應用特有攻擊模式的識別能力，包括提示詞注入、模型越獄和參數(shù)操縱等。通過引入防護框架實現(xiàn)對模型輸入輸出的全方位監(jiān)控，攔截惡意提示詞。

模型行為審計與追溯。構建完善的日志審計機制，實現(xiàn)對模型全生命周期的行為監(jiān)控和追溯。記錄模型訓練、調用和響應的完整過程，包括數(shù)據(jù)來源、參數(shù)調整、輸入輸出內容和用戶操作等關鍵信息。這種透明性不僅有助于安全事件的快速響應，還能支持合規(guī)要求的滿足。建立模型行為回溯系統(tǒng)，支持在安全事件發(fā)生后快速定位問題根源，識別攻擊路徑和影響范圍。這一機制能有效應對如抱抱臉(Hugging Face)平臺API令牌漏洞等安全事件，提高事件響應效率和精準度。

優(yōu)化管理體系

建立全生命周期風險管理。企業(yè)應建立覆蓋模型訓練、部署、運維和退役的閉環(huán)管控流程。在訓練階段，實施嚴格的數(shù)據(jù)來源合規(guī)審查，確保訓練數(shù)據(jù)的合法性和安全性;建立訓練數(shù)據(jù)標注安全規(guī)范，防止有害信息進入模型知識庫。在部署階段，強化模型安全測試，通過對抗樣本測試驗證模型防御能力;實施部署環(huán)境安全加固，防范外部攻擊。

明確“三位一體”責任機制。明確開發(fā)者、運維者和使用者的分級責任制，構建多層次安全防護體系。模型開發(fā)者負責安全算法設計和代碼審查;運維者負責部署環(huán)境安全和運行監(jiān)控;使用者負責合規(guī)使用和異常報告。通過責任明確和協(xié)同配合，形成全方位的安全防護網(wǎng)絡。

組織常態(tài)化攻防演練。通過紅藍對抗檢驗防御體系有效性，發(fā)現(xiàn)并修復潛在安全漏洞。企業(yè)應定期組織針對大模型應用的專項安全演練，模擬各類攻擊場景，如提示詞注入、模型越獄等。

落實法規(guī)與生態(tài)協(xié)同

落實數(shù)據(jù)分類分級與跨境審查。嚴格落實數(shù)據(jù)安全法等法規(guī)要求，建立大模型數(shù)據(jù)分類分級管理體系。針對跨境數(shù)據(jù)流動，建立嚴格的審查機制，確保符合《生成式人工智能服務管理暫行辦法》中關于數(shù)據(jù)安全的規(guī)定。同時，加強對模型輸出的合規(guī)審查，確保生成內容符合法律法規(guī)要求，避免因違規(guī)內容生成而面臨合規(guī)風險。

完善供應鏈安全管理。強化第三方服務商安全評估與準入機制，防范供應鏈攻擊風險。建立供應商安全評估體系，從技術能力、安全措施和合規(guī)狀況等維度，對提供大模型相關產(chǎn)品和服務的供應商進行全面評估。

開發(fā)國產(chǎn)化替代與可信技術應用。針對技術生態(tài)失衡問題，企業(yè)應積極推進自主可控技術在關鍵系統(tǒng)的部署，降低對國外技術的依賴。優(yōu)先選用自主可控的LLM框架和工具，加強與國內技術提供商的合作，共同提升產(chǎn)品安全性和可靠性。對于必須使用的國外技術，實施嚴格的安全隔離和監(jiān)控措施。此外，企業(yè)應建立國產(chǎn)化技術評估機制，定期評估國產(chǎn)替代方案的成熟度和適用性，制定分階段的國產(chǎn)化替代路線圖。國家工業(yè)信息安全發(fā)展研究中心發(fā)布的《工業(yè)控制系統(tǒng)信息安全解決方案》提供了實施技術自主可控的有效框架，可指導企業(yè)系統(tǒng)性推進技術國產(chǎn)化進程。

跨境合規(guī)與國際協(xié)同。面對國際治理格局碎片化的挑戰(zhàn)，企業(yè)應建立適應多區(qū)域監(jiān)管要求的合規(guī)管理框架。針對我國相關規(guī)定和歐盟《人工智能法案》，采用“合規(guī)即代碼”方法，將監(jiān)管要求轉化為可執(zhí)行的技術控制措施，實現(xiàn)合規(guī)管理的自動化和精準化。同時，積極參與國際人工智能治理標準制定，提升我國在全球人工智能治理體系中的話語權，推動形成更加包容、平衡的國際規(guī)則。

中核武漢核電運行技術股份有限公司辦公樓外景。

構筑數(shù)智時代的網(wǎng)絡安全新范式

大語言模型技術的迅猛發(fā)展為企業(yè)數(shù)字化轉型帶來前所未有的機遇，同時也催生了復雜多變的網(wǎng)絡安全挑戰(zhàn)。面對風險交織疊加，企業(yè)需統(tǒng)籌發(fā)展和安全，以“主動免疫”理念重構防御體系。摒棄傳統(tǒng)被動防御思維，將安全防護前置到技術研發(fā)和業(yè)務設計環(huán)節(jié)，構建融合技術防御、管理優(yōu)化和合規(guī)協(xié)同的立體化安全框架。通過動態(tài)數(shù)據(jù)脫敏、智能威脅感知、全生命周期風險管理等關鍵舉措，實現(xiàn)對新興安全風險的早期識別和有效應對，保障企業(yè)數(shù)字化轉型行穩(wěn)致遠。

與此同時，政府、研究機構、企業(yè)和技術社區(qū)應形成合力，完善法規(guī)、強化技術攻關、促進經(jīng)驗共享，秉持“安全優(yōu)先、創(chuàng)新驅動、開放協(xié)同、責任共擔”的理念，共同構建安全、可靠、可信的人工智能應用生態(tài)。通過凝聚多方智慧，構建共治共享的安全生態(tài)，在把握大模型技術創(chuàng)新紅利的同時，有效防范和化解潛在風險，為數(shù)字中國建設和數(shù)智時代的高質量發(fā)展筑牢安全基石，開創(chuàng)大語言模型安全應用的新局面。

標簽：