來源：砍柴網
5月17日，騰訊雲在（zài）北京舉辦的生（shēng）成式AI產業（yè）應用峰會上（shàng）公（gōng）布大模型（xíng）研發、應（yīng）用產品的係列進展。騰訊（xùn）集團高級執行副總（zǒng）裁、雲與智慧產業事業群CEO湯道生表示（shì），騰訊始終以“產業（yè）實用（yòng）”作為發展大模型的核心戰略，通過打造高性能的模型、高效率的工具平台、高敏捷的場（chǎng）景應（yīng）用、高可用的算力基礎（chǔ）設施，以及強安全的模型環境，構建離產業最近的AI。
圍繞AI帶來（lái）的全新安全挑戰，騰訊雲在會上發布了AI安全保（bǎo）護框架，以及全鏈路的內容安全解決方案和數據安全解（jiě）決方案，護航企業擁抱生成式AI從模型訓練（liàn）、內容生成到事（shì）後運營全過程的安全建設，護航產（chǎn）業發展。
(騰訊（xùn）安全總經（jīng）理周斌（bīn）在大會現（xiàn）場發表（biǎo）主題演講)
攻防相（xiàng）長，AI重塑安全保護框架
生成式（shì）AI為許多行業的創（chuàng）新和（hé）發展提供了新的工具和視角，但其帶來的安全威脅也讓眾（zhòng）多企業倍感擔憂。相關研究數據顯示，ChatGPT發（fā）布後，釣魚郵件環比增長260%且平均語言（yán）複雜度提升17%，攻擊者利用生成（chéng）式AI增加的社會工程（chéng）攻擊量達135%，這些新風險均導致企業安全需求激增。根據普華永（yǒng）道調研（yán）顯示，77%的CEO擔心AI增加（jiā）網絡安全風險。
騰訊安全（quán）總經理周斌（bīn）認為，AI和安全一直以來都在互相影響，尤其是在生成（chéng）式 AI爆火以來（lái），攻擊方和（hé）防守方都在利用AI提升智能化水平。這個過程（chéng）中，也會產生專屬於大模（mó）型的新風險，尤其是（shì）AI本體安全（quán），以及生成式AI“智能湧現”對數字內（nèi）容、版權等（děng）方麵的衍生安全（quán）衝擊。
因此，防守方應重新建立AI本體安全、AI應用（yòng）安全、AI內容安全的AI應用保護框架，覆（fù）蓋AI從第一條數據（jù）訓練到最終上（shàng）線運營全過程安全。同時，企業還應提升安全體係的AI含量，讓安全專家和機器協同作戰，智能（néng）化應對安全威脅。
周（zhōu）斌表示（shì），無論哪種技術的伴生安全，其實都（dōu）需要多（duō）方協（xié）同。在企業擁抱生（shēng）成式AI的過程（chéng）中，以騰訊為代表的大模型建設方，需要保障AI本體安全；企業基於騰訊的大模（mó）型構建原生AI應用時，需要關注模型從開發、測試、部署到（dào）運行等完（wán）整生命周期內的（de）應用安全，“同時，雙（shuāng）方還需要攜手共建AI內容安（ān）全防線”。
天禦（yù）AIGC內容安全解決方案，已服務主流生成式AI應用
周斌（bīn）認為，相比於其他技術和業態，生成式AI的特征是始終圍（wéi）繞“數據”和（hé）“內容”展開，每一條訓練數據和生成內容，都在檢驗全套安（ān）全體係是否（fǒu）有效。其（qí）中內容安全不僅（jǐn）考驗底線類的涉黃涉暴等違規內容，還要（yào）應對虛假信息泛濫、個人內容版權侵權、文化偏見歧視、倫理道德背離等全新挑（tiāo）戰。
騰訊雲（yún）對此打造了天禦AIGC全鏈路的內（nèi）容安全解決方案，提供包含審（shěn）校服務、安全專家服務、機器審核（hé）服務、版權保護服務、客戶體驗（yàn）管（guǎn）理五（wǔ）大服務體係，包含（hán）風險場景定義、風險語料庫服務、語料版權檢測、輸出價值觀檢測、業務傳播風險監測等能力，覆蓋生成式AI應用從（cóng）模型訓練到（dào）內容生成到事（shì）後運營全過程的內容（róng）安全建（jiàn）設。
騰訊安全依托過去20多年的安全運營經驗，積累了豐富的違規樣本以及（jí）十幾種定製識別服（fú）務，可以結合行業場（chǎng）景為企業的（de）內容安全建設“量體裁（cái）衣”。騰（téng）訊雲天禦（yù）風控還和對象存（cún）儲、雲直（zhí）播、雲點播、實時音視頻等雲上工（gōng）具打通，讓企業在（zài）雲上一次接入即可完成（chéng）整套審核，效（xiào）率大幅（fú）提升（shēng）。
目前，騰訊雲天禦AIGC內容安全（quán）解決方案已在AI問答、數字人、創作助手、代碼生成、娛（yú）樂社交、AI客服等各種場（chǎng）景中落地，覆蓋主流生成式AI應（yīng）用生態，護航各行各業內容安全（quán）。
全鏈路數據安（ān）全（quán）解決方案，實現99.99%敏感（gǎn）數（shù）據識（shí）別準確度
在內容合規要求外，生成式（shì）AI還（hái）麵臨數據安全風險，模型和數據都會成（chéng）為潛在的攻（gōng）擊目標，數據類型多樣及規模大（dà）也導致數據安全治理難度加大（dà）。相比於傳統過濾掉有害數據的保護措施，生成式AI的（de）“從無到有”的特（tè）性顯著加劇了（le）數據安全挑戰。
因此（cǐ），為防範數據安（ān）全問題造成的（de）隱私侵犯、經濟損失、法律責任、聲譽損失等係列（liè）問題，需要對數據工程（chéng）師、算法工程師等人員做好身份認證、數據訪問控製以及操作管控，對數據做好防篡改、敏感數據去標識化、以及數據行為審計和異常監（jiān）測（cè）。
騰訊雲針（zhēn）對AIGC場景和數據特點開發，打（dǎ）造數據安全治理解決方案，通過對大模型的用戶、實體、模型文件實施分級別的訪問（wèn）控製，實現權限分離。同時，騰訊雲通過數據安全治理中心、數據安全防護網關、機密計算平台等產（chǎn）品能（néng）力（lì），實現大模型業務全流程從數據采集、數據處理、訓練、精調、發布、推理到應用的過程中，海量數（shù）據和大模型的（de）完整性和保（bǎo）密性。
目前，該方案已實現99.99%敏感數據（jù）識別準確度，積累了超（chāo）200種的數據分類（lèi）以及300多個風（fēng）險（xiǎn）檢測模型，能支持企業海量數據的敏感度識別和安（ān）全防護、審計溯（sù）源。
除此之外，周斌（bīn）在發布會上（shàng）還公布了騰訊雲在安全運營、風控（kòng）建模、漏洞修複等基於大模型賦能安全場景的探索，致（zhì）力於幫助企業（yè）提升安全攻防效率。周斌表（biǎo）示，未來，騰訊（xùn）雲將基於領先技（jì）術讓千行百業無懼安全威脅，安心擁抱AI，激發應用價值。
