隨著大型語言模型(LLM)和人工智慧(AI)技術的快速發展,各界紛紛投入開發新一代「AI驅動」的應用程式。然而,在這股熱潮中,人們也開始關注AI應用的安全風險以及如何有效防護。本文探討了AI應用安全的複雜性,並提出了一些切實可行的建議。
AI應用安全面臨一些獨特的挑戰。例如,提示注入攻擊(prompt injection)可能導致模型忽視指令而洩露敏感資訊。然而,這類攻擊的實際影響仍存在不確定性,因為LLM的行為本質上具有不可預測性。同樣地,保護AI應用免受提示注入攻擊也面臨困難。傳統的輸入過濾方法可能會降低AI功能的靈活性,因此需要在安全性和功能性之間取得平衡。
除了新興的安全威脅,AI應用還面臨一些傳統的風險,如供應鏈漏洞和隱私問題。這些風險相對熟悉,可以納入現有的漏洞管理計劃中。許多支援AI和LLM的主要程式庫都存在高危或嚴重的安全漏洞,因此開發團隊必須密切關注所使用的程式庫及其潛在漏洞。
為了降低隱私風險,組織應制定嚴格的政策,規範工程團隊可以使用的語言模型,並監控確保只使用經過批准的模型。同時,建立員工使用的AI應用清單也至關重要,因為未經授權的AI應用可能成為資料外洩的管道。許多員工可能會在不完全了解安全和隱私影響的情況下安裝AI相關的瀏覽器擴充功能,這可能導致資料被傳輸給第三方或納入LLM的訓練資料集。因此,組織應建立經過評估和批准的應用清單,並制定政策禁止使用未經授權的擴充功能。
雖然市場上已經出現了針對AI模型和提示進行安全防護的新產品和功能,但考慮到AI攻擊的不確定性以及防護工具可能帶來的副作用,組織可能需要謹慎評估後再採用。在此同時,安全團隊可以採取一些具體且行之有效的措施來降低風險,保護AI應用的攻擊面:
1. 加強基礎網路安全衛生,採用成熟的最佳實踐。
2. 制定明確的AI使用政策,並確保員工遵守。
3. 持續監控和更新AI相關程式庫的安全漏洞。
4. 建立經過安全評估的AI應用和工具清單。
5. 提高員工對AI安全和隱私風險的認識。
AI技術的快速發展為組織帶來了機遇,同時也帶來了新的安全挑戰。雖然一些AI特有的安全風險仍在研究中,但組織可以從基礎做起,採取切實可行的措施來保護AI應用。通過加強傳統的網路安全實踐,制定明確的AI使用政策,以及提高員工的安全意識,組織可以在享受AI帶來的創新和效率的同時,有效管理相關風險。隨著AI技術的不斷演進,安全策略也需要與時俱進,持續調整和完善。只有在創新與安全之間找到平衡,組織才能真正發揮AI的潛力,實現可持續的發展。
詳情請看：
Securing the AI Attack Surface: Separating the Unknown from the Well Understood
