2025年3月28日，由DTinsight中國數智發展研究中心主辦，珠峰AI、TGO20組、DT千川匯作為智庫支持，以“探索未至之境”為主題的第二屆AI大模型企業落地應用場景創新峰會主論壇在上海閉幕。騰訊云安全總經理李濱受邀出席了主論壇，并進行了題為《攻防對抗升級：大模型如何重構網絡安全戰場》的主題演講。

騰訊云安全總經理 李濱

“未來是AI對抗AI的時代，靠人工去對抗手中擁有大量科研工具的黑客，顯然是不現實的。”李濱表示，AI和大模型帶來了攻防雙方的全面升級，要應對大模型伴生的安全問題，企業需要從組織架構、技術儲備等各個方面調整策略，以應對挑戰，“我們需要建立一個和AI共生的安全體系。”

作為網絡安全領軍企業，騰訊安全也一直致力于推進大模型前沿安全研究，完善大模型在基礎設施、應用層面的各種安全治理機制，推出各種高性能產品幫助企業應對AI時代的安全風險，并聯合CSA云安全聯盟大中華區、OWASP中國等權威機構推動大模型相關安全標準的落地。

大模型應用加速 安全攻防全面升級

伴隨Deepseek帶來的深度推理的突破，企業應用AI的熱情高漲，大模型正在加速滲透進各行各業，為解決產業痛點帶來了全新的思路，但在安全從業者看來，這也意味著巨大的安全挑戰。

“人工智能技術的普遍應用，實現了物理世界和數字世界的廣泛連接，也打破了傳統的數字安全的邊界。”李濱表示，傳統的數字安全普遍是在IT系統之內，發生安全事故的后果主要是系統宕機、服務癱瘓，但是在AI時代，物理世界和數字世界高度融合，信息安全事故可能會蔓延到物理世界中，造成更大面積的影響。

此外，大模型還將帶來幾方面的安全挑戰，一是大模型賦能于攻擊側，李濱舉例，人工智能應用于攻擊代碼和工具編寫等環節之后，攻擊者進行漏洞利用的速度比2年之前提升了10倍以上，另外在一些常用的攻擊手段上，例如釣魚郵件、自動化代碼攻擊方面的效率也有巨大的飛躍；二是大模型本體的安全問題，模型本體的安全缺陷，以及部署和應用過程中不當的安全配置，都有可能引入安全風險，包括AI幻覺、違規內容、虛假信息、偏見歧視、隱私泄露、大模型惡意濫用等。

但是，作為一把“雙刃劍”，大模型同時也賦能于防御側，帶來攻防雙方的動態平衡。例如，大模型極大地提升了安全管理和事件響應處置的效率，例如過去5年以來互聯網上出現的安全事件中，約有20%都是由各類安全權限配不當引起的，通過大模型的賦能，企業可以實現更優化的安全策略管理；例如在告警分析上，企業的安全設備每天會產生海量告警，其中只有少數是真正的威脅，過去在這些告警分析上企業需要消耗大量人力，而大模型可以通過各類安全和專用的模型去對這類的數據進行分析，快速發現已知和未知的安全風險。

李濱認為，大模型目前還處在初期時代，未來隨著大模型逐步釋放出更大的生產力，會應用在越來越多的地方，我們也需要有相應的策略去應對安全問題和風險，需要建立和AI共生的安全體系。

從技術到組織體系全面升級 構建AI時代的動態安全生態

大模型深入企業業務流程，它的安全問題不只是某個局部的安全對抗，而涉及整個安全體系的升級。李濱認為，需要從技術層、管理層、合規層和倫理層四個層面構建AI時代的動態安全生態。

騰訊擁有自研大模型混元，并通過騰訊云向企業客戶提供大模型部署需要的基礎設施和云計算相關服務，同時騰訊也擁有面向C端用戶的大模型應用“元寶”。可以說，騰訊在大模型的應用覆蓋了從底層技術研究、企業服務到終端應用的全鏈路的解決方案。依托于騰訊在大模型上的“全局視角”，騰訊安全建立了一套系統性的框架，對整個人工智能以及大模型的安全進行完備的風險分析，通過業務流和技術棧兩個維度，來分析人工智能在本體安全、運行環境和基礎設施，應用環境中和應用環境周邊發生的一些風險缺陷。

在風險控制框架之下，騰訊也建立了大模型相關整體安全治理架構，從數據采集、模型訓練、代理部署到業務應用的全流程，均滿足監管要求，為企業提供安全、可控、可靠的服務。

數據安全是企業應用大模型服務的一個“痛點”，對數據安全的擔憂直接影響了企業決定采取哪個模型本體、哪種部署方式。為了幫助企業解決這個問題，騰訊云也推出了跨模型數據安全和隱私保護框架，該框架覆蓋了數據采集的合規性以及數據基礎的保護，數據的分類、分級評估和治理，數據在訓練和推理過程中的安全保護機制，以及數據輸入輸出環節中的保障機制的建立，覆蓋了大模型從采集、部署、訓練、推理的全流程鏈條。

李濱重點提出，在內容輸入和輸出環節，由于樣本劫持、數據投毒或者模型本身的幻覺等原因，大模型可能會生成有風險的內容，而騰訊天御基于多年內容安全的能力，能幫助企業進行大模型應對這一安全隱患。

在攻防對抗與情報方面，騰訊云建立了大模型安全Red Team對抗機制，以騰訊的安全專家能力為基礎，建立針對大模型的安全測試方法，主動發現大模型及生態存在的風險，并依托這些安全研究成果，研發了專門針對大模型進行安全保護的大模型安全態勢感知系統AI-SPM和大模型智能安全網關LLM-WAF，為企業大模型應用進行全生命周期保障護航。

此外，騰訊也積極參與大模型相關標準的制定工作。去月，世界數字技術院（WDTA）發布了一系列突破性成果，包括《生成式人工智能應用安全測試標準》和《大語言模型安全測試方法》兩項國際標準，這是國際組織首次就大模型安全領域發布國際標準，騰訊也是這兩項標準的起草單位之一。騰訊云還積極和CSA云安全聯盟大中華區在人工智能方向合作研究大模型安全評估方法，并參與《大模型供應鏈安全要求》標準審核工作。