Help net security發佈了一篇Protect AI Guardian 掃描 ML 模型以確定它們是否包含不安全程式碼
AI系統已經成為許多企業和組織的重要資產，但同時也面臨著越來越多的安全威脅。從數據洩露到模型竊取，從惡意操縱到供應鏈攻擊，AI系統的攻擊面不斷擴大，而防禦手段卻相對落後。為了解決這個問題，一家名為Protect AI的新創公司從隱形狀態出現，並宣布獲得了1350萬美元的種子輪融資，以及推出了一個名為Guardian的AI安全平台。
Guardian平台是一個端到端的AI安全解決方案，旨在幫助企業和組織保護他們的AI系統免受各種攻擊。Guardian平台的核心功能包括：
- AI資產管理：Guardian平台可以自動發現和監控企業和組織的所有AI資產，包括數據、模型、代碼、服務等，並提供一個統一的視圖和控制面板。
- AI風險評估：Guardian平台可以對AI資產進行全面的風險評估，包括數據質量、模型性能、代碼安全、服務可用性等，並提供風險分數和建議。
- AI漏洞掃描：Guardian平台可以對AI資產進行定期的漏洞掃描，包括數據洩露、模型竊取、模型汙染、模型逆向、模型欺騙等，並提供漏洞報告和修復方案。
- AI威脅情報：Guardian平台可以收集和分析來自不同來源的AI威脅情報，包括黑客活動、漏洞公告、安全事件等，並提供威脅預警和應對策略。
- AI安全防禦：Guardian平台可以提供多層次的AI安全防禦，包括數據加密、模型加密、代碼加密、服務加密等，以及數據驗證、模型驗證、代碼驗證、服務驗證等，以阻止或減緩攻擊的影響。
Protect AI的創始人兼CEO，前Google AI安全負責人，李明博博士表示，Guardian平台的目標是讓AI安全變得簡單和普及，讓每個使用AI的企業和組織都能夠有效地保護他們的AI資產，並充分發揮AI的價值。他說，AI安全是一個新興而重要的領域，需要更多的關注和投入，而Protect AI希望成為這個領域的領導者和推動者。
Guardian平台已經在多個行業和領域得到了應用，包括金融、醫療、電信、電子商務、教育等。Protect AI的客戶包括一些知名的企業和組織，如微軟、亞馬遜、IBM、華為、聯合國等。Protect AI的合作夥伴包括一些頂尖的學術機構和研究機構，如斯坦福大學、麻省理工學院、牛津大學、清華大學、中國科學院等。
Protect AI的種子輪融資由紅杉資本領投，其他參與投資的機構包括創新工場、GGV資本、真格基金、IDG資本等。Protect AI計劃利用這筆資金來擴大其團隊、產品和市場，並加速其技術和業務的創新和發展。
詳情請看：