7月5日，螞蟻集團聯合清華大學釋出大模型安全一體化解決方案「蟻天鑒」2.0版。蟻天鑒2.0新增AI鑒真功能，支持影像、影片等多模態內容真實性及深度偽造檢測；並在測評功能上持續升級，打造了大模型安全測評「智能體」，並新增大模型X光、大模型基礎設施測評兩大測評功能。據了解，蟻天鑒去年7月首次對外釋出，歷時1年升級到2.0版。2024年，蟻天鑒商業化邁出重要一步，透過螞蟻數科開始服務廣泛的外部客戶。
據悉，作為螞蟻集團科技商業化的重要板塊，螞蟻數科自今年3月份獨立化營運以來，悄然推進AItoB戰略，SOFAStack、蟻盾等多個代表性產品均釋出了大模型相關服務，積極借助AI技術助力產業智能化升級。
據了解，蟻天鑒2.0形成了包括大模型基礎設施測評、大模型X光測評、套用安全測評、AIGC濫用檢測、證件偽造檢測、圍欄防禦等在內的完整技術鏈條，面向行業提供全方位智能化的大模型安全測評和防禦解決方案。
在測評端，蟻天鑒2.0研發了業內首個「測評智能體」。該測評智能體提供全流程自動化的安全測評工具，支持各種形式模型和深度學習框架，可延伸測評垂類大模型、多模態大模型及Agent智能體，並能根據被測大模型的安全水位動態調整攻擊策略和出具測試用例，保障測評效果和效率。目前，蟻天鑒2.0有超300萬高質素測評題庫，支持最高50萬/日的飽和式攻擊和逐級誘導深度攻擊，並實作了1工作日內完成測評，全流程自動化率＞99%。
與此同時，該智能體也增加了兩項新功能。一是「大模型X-ray」。即大模型X光，可針對大模型的內在神經元進行X光掃描來做探查和判斷，讓研究人員了解大模型內部在發生什麽、定位可能引發風險的神經元、並進行編輯修正，從而在模型內部治理幻覺，實作從源頭辨識和抑制風險。二是「大模型基礎設施測評」。此前蟻天鑒的測評能力主要集中於大模型生成的內容安全、合規風險等檢測。蟻天鑒2.0從攻擊者全鏈路視角出發，深入掃描模型演算法元件及軟件系統，可及時準確發現大模型供應鏈及執行環境安全問題，保障雲到端的套用安全可控。
同時，蟻天鑒2.0防禦端新增「AI鑒真」功能。支持多模態內容真實性及深度偽造檢測，可快速精準鑒別影像、影片、音訊、文本內容的真偽，影像辨識準確率99.9%達到行業最高優秀級（信通院測評）。目前，蟻天鑒2.0依托生成模型自建百萬量級音檢視多模態合成數據集，覆蓋主流生成方案，有效應對AI換臉、聲音模擬、證件偽造等各類深度偽造風險場景。
更多精彩資訊請在套用市場下載「央廣網」客戶端。歡迎提供新聞線索，24小時報料熱線400-800-0088；消費者也可透過央廣網「啄木鳥消費者投訴平台」線上投訴。版權聲明：本文章版權歸屬央廣網所有，未經授權不得轉載。轉載請聯系：[email protected]，不尊重原創的行為我們將追究責任。
