人工智能時代，以大模型為代表的技術已成為國際競爭新焦點與經濟發展新引擎，深刻改變社會格局并廣泛應用于目標檢測、語音識別、自然語言處理等關鍵領域。以DeepSeek等為代表的大模型正迅速滲透各行各業，驅動新一代AI發展浪潮。

然而，在帶來巨大便利與機遇的同時，大模型也暴露出嚴峻的安全挑戰：模型訓練與使用過程中的隱私泄露、自身安全性問題日益凸顯；其風險深藏于語義與算力層，使得僅關注協議與流量的傳統防火墻無力應對提示詞注入攻擊、敏感數據泄露及GPU算力惡意消耗等新型威脅；同時，全球日益收緊的AI與數據安全法規，也使大模型生成內容的合規性審查成為企業必須面對的嚴峻課題。這些“系統性短板”涵蓋安全架構、漏洞響應、數據合規等方面，亟待通過技術突破、管理強化與多方協同，建立完善的內生安全機制，以保障大模型在各個關鍵領域安全運行。

面對AI時代的系統性挑戰，6月24日，騰訊云舉辦“開箱吧，騰訊云”大模型安全發布會，正式推出面向大模型應用場景的全棧安全解決方案。發布會上，騰訊云重磅發布兩大全新產品——LLM-WAF大模型防火墻和AISPM大模型安全態勢管理平臺，并揭示GuardLM技術的突破。三位來自騰訊的安全專家登臺，通過直觀的產品功能演示，深入剖析在復雜多變的大模型安全態勢下，企業普遍面臨的各類通用安全問題，并結合金融、泛互、零售等不同行業領域的實際案例，分享騰訊云在大模型安全防護方面的成功實踐經驗和行業領先的安全策略，助力企業構建可信賴的大模型安全防線。

從技術到組織體系：縱深應對大模型多重安全風險

AI技術帶來新的生產驅動力，企業數字化進入“大模型時代”。在企業將大模型投入實際應用的過程中，騰訊云安全總結了大模型企業應用十大常見安全風險，涵蓋樣本投毒、提示詞注入攻擊、第三方代碼或開源模型帶來的供應鏈風險，以及自動化Agent權限濫用、模型推理被劫持等新型AI應用威脅。這些風險貫穿于企業應用大模型的各個環節，構成關鍵挑戰。騰訊云安全總經理李濱分析，這些風險并非孤立存在，而是從數據采集、處理、模型訓練、部署到最終應用的整個AI技術生命周期中端到端傳導的。

李濱總結，大模型安全問題本質上是一次全方位的安全體系升級，而非局限于局部對抗，需要從全局視角建立系統框架。為此，騰訊云安全從技術、管理、合規、倫理四大維度出發，全面覆蓋數據隱私、模型自身、應用集成、基礎設施以及治理倫理等領域，構建 AI 時代的動態安全生態。

騰訊云大模型安全治理框架以安全基準、安全運營和安全合規三大支柱為基礎，形成了覆蓋模型基礎設施到應用全生命周期的立體化技術防護方案，針對不同階段風險部署相應策略，構建起大模型安全的縱深防御體系。

 ●  在內容輸入和輸出環節，由于樣本劫持、數據投毒或者模型本身的幻覺等原因，大模型可能會生成有風險的內容，而騰訊云天御基于多年內容安全的能力，能幫助企業進行大模型應對這一安全隱患。

 ●  在攻防對抗與情報方面，騰訊云安全建立了大模型安全Red Team對抗機制，以騰訊的安全專家能力為基礎，建立針對大模型的安全測試方法，主動發現大模型及生態存在的風險，并依托這些安全研究成果，研發了專門針對大模型進行安全保護的大模型安全態勢感知系統AISPM和大模型智能安全網關LLM-WAF，為企業大模型應用進行全生命周期保障護航。

 ●  在合法合規標準方面，騰訊云安全也積極參與大模型相關標準的制定工作，如參與起草《生成式人工智能應用安全測試標準》和《大語言模型安全測試方法》國際標準等，依托自研大模型混元為企業保駕護航。

LLM-WAF：大模型服務“專業門衛”

據IDC數據，2024年全球AI IT總投資達3158億美元，預計2028年將增至8159億美元，五年復合增長率32.9%。AI大模型從實驗室走向各行業，成為企業數字化轉型的關鍵力量。然而，隨著AI與企業業務融合加深，安全問題和需求也日益凸顯。騰訊云安全高級產品經理王軍從案例出發揭示大模型四大安全痛點，從BOT濫爬、API風險，到提示詞注入攻擊，再到不當信息濫用，大模型提升業務效率的同時也帶來安全隱患。只有在上線初期就將大模型安全防護能力“一體化”接入業務，才能避免效率紅利被安全風險吞噬。

基于此，騰訊云WAF在原有基礎上，正式面向大模型業務推出大模型安全防護模塊LLM-WAF。該產品采用創新的架構理念，專為大模型應用場景打造，能夠在多模型、多場景、高并發環境下提供全鏈路防護。LLM-WAF支持企業大模型業務5分鐘快速接入防護，兼容騰訊混元、DeepSeek等多種主流大模型。其智能安全防護引擎可高效檢測并攔截算力濫用、提示詞攻擊、不當內容、數據泄露等各類安全風險，為大模型業務運行提供全面保障。

騰訊云安全高級產品經理王軍介紹，LLM-WAF的核心優勢具體表現在：一支持輕松接入，即刻防護，5分鐘內完成配置；二是智能守護算力資源，實時監測攔截異常算力濫用行為；三是內容安全雙重保障，通過兩道防線識別不當及敏感信息；四是API安全縱深防御，覆蓋API全生命周期，降低數據泄露風險；五是BOT流量精準管理，結合AI驅動精準識別和動態挑戰機制確保核心接口資源安全；六是合規有保障，提供詳細攻擊日志記錄，滿足審計需求。基于此，LLM-WAF在真實業務場景下能夠提供強大防護能力——無論是防止惡意提示詞注入，還是攔截高風險內容輸出，LLM-WAF都能實現實時防護，并為企業提供可定制化的攔截響應與完整的攻擊溯源能力，助力構建安全、合規、可控的大模型應用環境。

目前，LLM-WAF在多個行業有典型應用場景。金融行業用于智能投顧、對話銀行等業務，可防護提示攻擊、API套利等風險，保障交易、數據合規和系統可用性。泛互行業用于內容平臺等，應對爬蟲、越獄Prompt等威脅，平衡內容生產與合規治理。零售行業用于智能客服等，防范品牌聲譽受損和利潤侵蝕，確保業務穩定可靠。

AISPM：大模型安全“園區天眼”

當前大模型部署與使用呈現泛濫趨勢，一方面源于大模型能力提升及應用場景拓展，另一方面因云廠商方案簡化、API 服務發展及開源模型迭代降低了部署使用門檻，使業務接入成本大幅下降。然而，安全團隊未能及時制定大模型應用體系的管理方案，將使大模型應用脫離安全管控。同時，大模型應用還引入了新的風險如引用的大模型組件存在漏洞，以及組件配置不當導致的未授權訪問等問題。

AISPM通過持續檢測、評估AI模型和數據的安全態勢，協助企業應對挑戰。對于企業來說，基于AISPM掌握自身全部的模型、訓練數據、供應鏈和web接口安全情況，都是非常必要的。

為此，騰訊云推出AISPM大模型安全態勢管理產品以應對大模型專項安全治理場景。該系統提供網絡掃描和主機端檢測，提供資產識別、風險檢測、攻擊示警等核心能力，支持80余種大模型組件的識別，能夠檢測200多個大模型組件漏洞，并實時監控針對大模型的網絡攻擊行為，使企業安全團隊能夠及時掌握大模型應用情況，避免敏感數據被用于推理或訓練而引發的法律合規風險。

發布會上，騰訊云安全高級產品經理毛武斌全方位演示了AISPM在AI資產識別、風險檢測、攻擊行為監控等方面的相關能力。AISPM在騰訊云安全中心上是一個獨立的頁面，可根據企業具體場景需求進行全量資產或指定部分資產進行檢測，進而全面清晰呈現當前資產面臨的暴露路徑、網絡攻擊來源及風險，幫助企業掌握大模型資產的安全態勢，以便及時響應，守護企業的AI安全生態。

大模型技術的興起為網絡安全領域帶來了全新的挑戰與機遇，企業需要以開放的心態、創新的思維和務實的行動，攜手平衡挑戰與機遇。騰訊云也將持續快速迭代，以更創新、場景化的安全產品及解決方案，幫助客戶增強AI系統的安全性、提升防御主動性、降低攻擊面，與行業伙伴攜手共建一個更加安全、可信的AI時代。