人工智能時(shí)代，以大模型為代表的技術(shù)已成為國(guó)際競(jìng)爭(zhēng)新焦點(diǎn)與經(jīng)濟(jì)發(fā)展新引擎，深刻改變社會(huì)格局并廣泛應(yīng)用于目標(biāo)檢測(cè)、語音識(shí)別、自然語言處理等關(guān)鍵領(lǐng)域。以DeepSeek等為代表的大模型正迅速滲透各行各業(yè)，驅(qū)動(dòng)新一代AI發(fā)展浪潮。

然而，在帶來巨大便利與機(jī)遇的同時(shí)，大模型也暴露出嚴(yán)峻的安全挑戰(zhàn)：模型訓(xùn)練與使用過程中的隱私泄露、自身安全性問題日益凸顯；其風(fēng)險(xiǎn)深藏于語義與算力層，使得僅關(guān)注協(xié)議與流量的傳統(tǒng)防火墻無力應(yīng)對(duì)提示詞注入攻擊、敏感數(shù)據(jù)泄露及GPU算力惡意消耗等新型威脅；同時(shí)，全球日益收緊的AI與數(shù)據(jù)安全法規(guī)，也使大模型生成內(nèi)容的合規(guī)性審查成為企業(yè)必須面對(duì)的嚴(yán)峻課題。這些“系統(tǒng)性短板”涵蓋安全架構(gòu)、漏洞響應(yīng)、數(shù)據(jù)合規(guī)等方面，亟待通過技術(shù)突破、管理強(qiáng)化與多方協(xié)同，建立完善的內(nèi)生安全機(jī)制，以保障大模型在各個(gè)關(guān)鍵領(lǐng)域安全運(yùn)行。

面對(duì)AI時(shí)代的系統(tǒng)性挑戰(zhàn)，6月24日，騰訊云舉辦“開箱吧，騰訊云”大模型安全發(fā)布會(huì)，正式推出面向大模型應(yīng)用場(chǎng)景的全棧安全解決方案。發(fā)布會(huì)上，騰訊云重磅發(fā)布兩大全新產(chǎn)品——LLM-WAF大模型防火墻和AISPM大模型安全態(tài)勢(shì)管理平臺(tái)，并揭示GuardLM技術(shù)的突破。三位來自騰訊的安全專家登臺(tái)，通過直觀的產(chǎn)品功能演示，深入剖析在復(fù)雜多變的大模型安全態(tài)勢(shì)下，企業(yè)普遍面臨的各類通用安全問題，并結(jié)合金融、泛互、零售等不同行業(yè)領(lǐng)域的實(shí)際案例，分享騰訊云在大模型安全防護(hù)方面的成功實(shí)踐經(jīng)驗(yàn)和行業(yè)領(lǐng)先的安全策略，助力企業(yè)構(gòu)建可信賴的大模型安全防線。

從技術(shù)到組織體系：縱深應(yīng)對(duì)大模型多重安全風(fēng)險(xiǎn)

AI技術(shù)帶來新的生產(chǎn)驅(qū)動(dòng)力，企業(yè)數(shù)字化進(jìn)入“大模型時(shí)代”。在企業(yè)將大模型投入實(shí)際應(yīng)用的過程中，騰訊云安全總結(jié)了大模型企業(yè)應(yīng)用十大常見安全風(fēng)險(xiǎn)，涵蓋樣本投毒、提示詞注入攻擊、第三方代碼或開源模型帶來的供應(yīng)鏈風(fēng)險(xiǎn)，以及自動(dòng)化Agent權(quán)限濫用、模型推理被劫持等新型AI應(yīng)用威脅。這些風(fēng)險(xiǎn)貫穿于企業(yè)應(yīng)用大模型的各個(gè)環(huán)節(jié)，構(gòu)成關(guān)鍵挑戰(zhàn)。騰訊云安全總經(jīng)理李濱分析，這些風(fēng)險(xiǎn)并非孤立存在，而是從數(shù)據(jù)采集、處理、模型訓(xùn)練、部署到最終應(yīng)用的整個(gè)AI技術(shù)生命周期中端到端傳導(dǎo)的。

李濱總結(jié)，大模型安全問題本質(zhì)上是一次全方位的安全體系升級(jí)，而非局限于局部對(duì)抗，需要從全局視角建立系統(tǒng)框架。為此，騰訊云安全從技術(shù)、管理、合規(guī)、倫理四大維度出發(fā)，全面覆蓋數(shù)據(jù)隱私、模型自身、應(yīng)用集成、基礎(chǔ)設(shè)施以及治理倫理等領(lǐng)域，構(gòu)建 AI 時(shí)代的動(dòng)態(tài)安全生態(tài)。

騰訊云大模型安全治理框架以安全基準(zhǔn)、安全運(yùn)營(yíng)和安全合規(guī)三大支柱為基礎(chǔ)，形成了覆蓋模型基礎(chǔ)設(shè)施到應(yīng)用全生命周期的立體化技術(shù)防護(hù)方案，針對(duì)不同階段風(fēng)險(xiǎn)部署相應(yīng)策略，構(gòu)建起大模型安全的縱深防御體系。

 ●  在內(nèi)容輸入和輸出環(huán)節(jié)，由于樣本劫持、數(shù)據(jù)投毒或者模型本身的幻覺等原因，大模型可能會(huì)生成有風(fēng)險(xiǎn)的內(nèi)容，而騰訊云天御基于多年內(nèi)容安全的能力，能幫助企業(yè)進(jìn)行大模型應(yīng)對(duì)這一安全隱患。

 ●  在攻防對(duì)抗與情報(bào)方面，騰訊云安全建立了大模型安全Red Team對(duì)抗機(jī)制，以騰訊的安全專家能力為基礎(chǔ)，建立針對(duì)大模型的安全測(cè)試方法，主動(dòng)發(fā)現(xiàn)大模型及生態(tài)存在的風(fēng)險(xiǎn)，并依托這些安全研究成果，研發(fā)了專門針對(duì)大模型進(jìn)行安全保護(hù)的大模型安全態(tài)勢(shì)感知系統(tǒng)AISPM和大模型智能安全網(wǎng)關(guān)LLM-WAF，為企業(yè)大模型應(yīng)用進(jìn)行全生命周期保障護(hù)航。

 ●  在合法合規(guī)標(biāo)準(zhǔn)方面，騰訊云安全也積極參與大模型相關(guān)標(biāo)準(zhǔn)的制定工作，如參與起草《生成式人工智能應(yīng)用安全測(cè)試標(biāo)準(zhǔn)》和《大語言模型安全測(cè)試方法》國(guó)際標(biāo)準(zhǔn)等，依托自研大模型混元為企業(yè)保駕護(hù)航。

LLM-WAF：大模型服務(wù)“專業(yè)門衛(wèi)”

據(jù)IDC數(shù)據(jù)，2024年全球AI IT總投資達(dá)3158億美元，預(yù)計(jì)2028年將增至8159億美元，五年復(fù)合增長(zhǎng)率32.9%。AI大模型從實(shí)驗(yàn)室走向各行業(yè)，成為企業(yè)數(shù)字化轉(zhuǎn)型的關(guān)鍵力量。然而，隨著AI與企業(yè)業(yè)務(wù)融合加深，安全問題和需求也日益凸顯。騰訊云安全高級(jí)產(chǎn)品經(jīng)理王軍從案例出發(fā)揭示大模型四大安全痛點(diǎn)，從BOT濫爬、API風(fēng)險(xiǎn)，到提示詞注入攻擊，再到不當(dāng)信息濫用，大模型提升業(yè)務(wù)效率的同時(shí)也帶來安全隱患。只有在上線初期就將大模型安全防護(hù)能力“一體化”接入業(yè)務(wù)，才能避免效率紅利被安全風(fēng)險(xiǎn)吞噬。

基于此，騰訊云WAF在原有基礎(chǔ)上，正式面向大模型業(yè)務(wù)推出大模型安全防護(hù)模塊LLM-WAF。該產(chǎn)品采用創(chuàng)新的架構(gòu)理念，專為大模型應(yīng)用場(chǎng)景打造，能夠在多模型、多場(chǎng)景、高并發(fā)環(huán)境下提供全鏈路防護(hù)。LLM-WAF支持企業(yè)大模型業(yè)務(wù)5分鐘快速接入防護(hù)，兼容騰訊混元、DeepSeek等多種主流大模型。其智能安全防護(hù)引擎可高效檢測(cè)并攔截算力濫用、提示詞攻擊、不當(dāng)內(nèi)容、數(shù)據(jù)泄露等各類安全風(fēng)險(xiǎn)，為大模型業(yè)務(wù)運(yùn)行提供全面保障。

騰訊云安全高級(jí)產(chǎn)品經(jīng)理王軍介紹，LLM-WAF的核心優(yōu)勢(shì)具體表現(xiàn)在：一支持輕松接入，即刻防護(hù)，5分鐘內(nèi)完成配置；二是智能守護(hù)算力資源，實(shí)時(shí)監(jiān)測(cè)攔截異常算力濫用行為；三是內(nèi)容安全雙重保障，通過兩道防線識(shí)別不當(dāng)及敏感信息；四是API安全縱深防御，覆蓋API全生命周期，降低數(shù)據(jù)泄露風(fēng)險(xiǎn)；五是BOT流量精準(zhǔn)管理，結(jié)合AI驅(qū)動(dòng)精準(zhǔn)識(shí)別和動(dòng)態(tài)挑戰(zhàn)機(jī)制確保核心接口資源安全；六是合規(guī)有保障，提供詳細(xì)攻擊日志記錄，滿足審計(jì)需求。基于此，LLM-WAF在真實(shí)業(yè)務(wù)場(chǎng)景下能夠提供強(qiáng)大防護(hù)能力——無論是防止惡意提示詞注入，還是攔截高風(fēng)險(xiǎn)內(nèi)容輸出，LLM-WAF都能實(shí)現(xiàn)實(shí)時(shí)防護(hù)，并為企業(yè)提供可定制化的攔截響應(yīng)與完整的攻擊溯源能力，助力構(gòu)建安全、合規(guī)、可控的大模型應(yīng)用環(huán)境。

目前，LLM-WAF在多個(gè)行業(yè)有典型應(yīng)用場(chǎng)景。金融行業(yè)用于智能投顧、對(duì)話銀行等業(yè)務(wù)，可防護(hù)提示攻擊、API套利等風(fēng)險(xiǎn)，保障交易、數(shù)據(jù)合規(guī)和系統(tǒng)可用性。泛互行業(yè)用于內(nèi)容平臺(tái)等，應(yīng)對(duì)爬蟲、越獄Prompt等威脅，平衡內(nèi)容生產(chǎn)與合規(guī)治理。零售行業(yè)用于智能客服等，防范品牌聲譽(yù)受損和利潤(rùn)侵蝕，確保業(yè)務(wù)穩(wěn)定可靠。

AISPM：大模型安全“園區(qū)天眼”

當(dāng)前大模型部署與使用呈現(xiàn)泛濫趨勢(shì)，一方面源于大模型能力提升及應(yīng)用場(chǎng)景拓展，另一方面因云廠商方案簡(jiǎn)化、API 服務(wù)發(fā)展及開源模型迭代降低了部署使用門檻，使業(yè)務(wù)接入成本大幅下降。然而，安全團(tuán)隊(duì)未能及時(shí)制定大模型應(yīng)用體系的管理方案，將使大模型應(yīng)用脫離安全管控。同時(shí)，大模型應(yīng)用還引入了新的風(fēng)險(xiǎn)如引用的大模型組件存在漏洞，以及組件配置不當(dāng)導(dǎo)致的未授權(quán)訪問等問題。

AISPM通過持續(xù)檢測(cè)、評(píng)估AI模型和數(shù)據(jù)的安全態(tài)勢(shì)，協(xié)助企業(yè)應(yīng)對(duì)挑戰(zhàn)。對(duì)于企業(yè)來說，基于AISPM掌握自身全部的模型、訓(xùn)練數(shù)據(jù)、供應(yīng)鏈和web接口安全情況，都是非常必要的。

為此，騰訊云推出AISPM大模型安全態(tài)勢(shì)管理產(chǎn)品以應(yīng)對(duì)大模型專項(xiàng)安全治理場(chǎng)景。該系統(tǒng)提供網(wǎng)絡(luò)掃描和主機(jī)端檢測(cè)，提供資產(chǎn)識(shí)別、風(fēng)險(xiǎn)檢測(cè)、攻擊示警等核心能力，支持80余種大模型組件的識(shí)別，能夠檢測(cè)200多個(gè)大模型組件漏洞，并實(shí)時(shí)監(jiān)控針對(duì)大模型的網(wǎng)絡(luò)攻擊行為，使企業(yè)安全團(tuán)隊(duì)能夠及時(shí)掌握大模型應(yīng)用情況，避免敏感數(shù)據(jù)被用于推理或訓(xùn)練而引發(fā)的法律合規(guī)風(fēng)險(xiǎn)。

發(fā)布會(huì)上，騰訊云安全高級(jí)產(chǎn)品經(jīng)理毛武斌全方位演示了AISPM在AI資產(chǎn)識(shí)別、風(fēng)險(xiǎn)檢測(cè)、攻擊行為監(jiān)控等方面的相關(guān)能力。AISPM在騰訊云安全中心上是一個(gè)獨(dú)立的頁(yè)面，可根據(jù)企業(yè)具體場(chǎng)景需求進(jìn)行全量資產(chǎn)或指定部分資產(chǎn)進(jìn)行檢測(cè)，進(jìn)而全面清晰呈現(xiàn)當(dāng)前資產(chǎn)面臨的暴露路徑、網(wǎng)絡(luò)攻擊來源及風(fēng)險(xiǎn)，幫助企業(yè)掌握大模型資產(chǎn)的安全態(tài)勢(shì)，以便及時(shí)響應(yīng)，守護(hù)企業(yè)的AI安全生態(tài)。

大模型技術(shù)的興起為網(wǎng)絡(luò)安全領(lǐng)域帶來了全新的挑戰(zhàn)與機(jī)遇，企業(yè)需要以開放的心態(tài)、創(chuàng)新的思維和務(wù)實(shí)的行動(dòng)，攜手平衡挑戰(zhàn)與機(jī)遇。騰訊云也將持續(xù)快速迭代，以更創(chuàng)新、場(chǎng)景化的安全產(chǎn)品及解決方案，幫助客戶增強(qiáng)AI系統(tǒng)的安全性、提升防御主動(dòng)性、降低攻擊面，與行業(yè)伙伴攜手共建一個(gè)更加安全、可信的AI時(shí)代。