CyberArk推出突破性開源工具
助企業防範AI模型越獄風險
全球身份安全供應商CyberArk(NASDAQ: CYBR)今日宣佈推出尖端開源框架FuzzyAI,經測試能突破所有主要AI模型限制。FuzzyAI協助企業識別並解決AI模型漏洞,例如在雲端託管及內部AI模型中繞過防護措施及生成有害輸出。
為何選擇FuzzyAI?
AI模型透過創新應用改變各行各業,涵蓋客戶互動、改善內部流程及自動化等領域。然而,這些模型的內部使用正帶來全新網絡安全挑戰,對此大多企業並未做好準備。
為應對上述挑戰,FuzzyAI為企業提供系統化方式,對AI模型進行各種對抗性輸入測試,反映安全系統中潛在的漏洞,從而實現更安全的AI開發及部署。FuzzyAI的核心是功能強大的模糊測試器(Fuzzer),能夠反映軟件的缺陷及漏洞。FuzzyAI透過超過十種不同的攻擊技術揭露漏洞,譬如繞過倫理篩選器或曝光隱藏的系統提示。FuzzyAI的主要功能包括:
- 全面的模糊測試:FuzzyAI透過多種攻擊技術對AI模型進行測試,反映漏洞,如繞過防護措施、信息外洩、輸入提示或生成有害輸出等。
- 可擴展框架:企業及研究人員可添加自定義攻擊手法,根據特定領域的漏洞定制測試。
- 社群協作:不斷成長的社群生態系統可確保攻擊技術及防禦機制的持續進步。
CyberArk 全球產品總監Peretz Regev表示:「FuzzyAI的推出突顯CyberArk在AI安全領域的承諾,致力協助企業向前邁進,解決日新月異的AI模型使用環境中固有的安全問題。由CyberArk Labs開發的FuzzyAI已證實能突破所有主要AI模型限制,助企業及研究人員識別漏洞,從而能夠積極鞏固AI系統,應對新興威脅。」
FuzzyAI推出市面日期
即日起於CyberArk Labs的GitHub頁面上,可獲取FuzzyAI完整可擴展框架開源軟件。
發表迴響