全國A級！ 三六零大模型安全能力獲中國人工智能大賽認證

12月20日，第五屆中國人工智能成果發布會在廈門召開。三六零（601360.SH，下稱“360”）集團因在人工智能安全治理“大模型安全攻防賽”中表現突出，榮獲本屆中國人工智能大賽A級證書。

 

今年9月，在國家互聯網信息辦公室、公安部指導下，廈門市人民政府主辦的第五屆中國人工智能大賽正式啟動，圍繞人工智能安全治理和創新發展兩大主線設置了賽題。作為重要賽題之一，大模型安全攻防賽是將15000條包含惡意和正常的大語言模型提示詞樣本輸入到參賽的大語言模型中，借此考察大模型對攻擊的防范能力。

 

據了解，人工智能在提升生產力的同時，也帶來了包括幻覺、深度偽造、注入攻擊、數據污染或投毒等前所未有的安全新挑戰。作為兼具數字安全和AI雙重能力的科技企業，360很早開始關注大模型安全風險，并推出一系列有針對性的創新技術，包括開發了國內首個安全大模型，通過“以模制模”理念，利用AI大模型來檢測和防范大模型可能出現的安全風險，既解決傳統網絡安全問題，又為攻克AI安全新挑戰提供了可行性方案。

 

近日，360集團還牽頭發起成立大模型安全聯盟，旨在打造資源共享、共創共贏的大模型安全生態集群，共同推動大模型安全標準的制定、安全技術的創新和安全能力的提升，打造大模型安全發展的新范式。

 

同時，360基于“安全、向善、可信、可控”的四大原則，推出多款具有重要行業價值的企業級應用新產品,包括大模型全鏈路安全檢測的“智鑒”、內容安全護航的“智盾”、搜索增強利器“智搜”，以及知識管理平臺“智能文檔云”和情報監測工具“輿情衛士”,全面覆蓋了大模型系統安全、內容安全、智能知識管理與情報分析等關鍵領域，通過技術創新與生態建設，持續為大模型安全及行業發展注入新動能。