隨著人工智慧(AI)技術的快速發展和廣泛應用,企業在享受其帶來便利和效率的同時,也面臨著新的安全管理挑戰。根據Tenable公司最近的一項調查研究顯示,許多企業雖然已經建立了嚴格的AI應用審核和管理流程,但實際上仍存在大量未經正式批准的AI應用在使用,形成了所謂的"影子IT"問題。
Tenable通過分析匿名遙測數據發現,在最近30天內,有超過33%的客戶在其環境中檢測到AI應用程序,總計發現了170萬個AI應用實例,分佈在287,000多個主機上。這些數據表明,AI應用的使用範圍和深度遠超過許多企業管理層的預期。雖然無法確定其中未經批准使用的具體比例,但即使只有少數未經批准,也可能對企業安全構成重大風險。
從地理分佈來看,美洲地區的AI應用檢測次數最多,其次是歐洲、中東和非洲(EMEA)地區,再次是亞太地區(APAC)。但從檢測率來看,EMEA地區最高,達22%,而APAC和美洲分別為5%和18%。這意味著企業需要定期掃描其IT環境,以全面了解AI應用的使用情況。
從行業分佈來看,零售業遙遙領先,其次是技術和電信行業。這反映了不同行業對AI技術應用的需求和接受程度存在差異。而從企業規模來看,大型企業每天可能有30,000多次AI應用檢測,而小型組織則可能有100次左右。
值得注意的是,許多常用的瀏覽器插件也在大量使用AI技術。例如Grammarly、LanguageTool、Magical等寫作輔助工具,以及ChatGPT for Google等通用AI助手,都在企業環境中被廣泛使用。這些工具雖然能提高工作效率,但也可能帶來數據洩露等安全風險。
目前,AI應用的安全漏洞披露數量還相對較少,僅有400多個,遠低於每年披露的數萬個常規漏洞。但隨著AI技術的不斷發展和應用範圍的擴大,相關的安全問題也將日益凸顯。
為了應對這些挑戰,企業需要採取以下措施來提升安全態勢:
1. 建立完整的AI應用清單,並與正式批准使用的應用進行對比。
2. 定期使用專業工具掃描IT環境,及時發現未經授權的AI應用。
3. 使用儀表板模板來審查掃描結果,全面掌握AI應用使用情況。
4. 及時修復發現的安全漏洞。
5. 遵循基本的安全原則,不要盲目信任AI的輸入,始終進行驗證。
總的來說,AI技術為企業帶來了巨大機遇,但同時也帶來了新的安全挑戰。企業需要在享受AI帶來便利的同時,也要充分認識到潛在的風險,建立完善的管理機制,確保AI應用的安全可控。只有這樣,才能真正發揮AI技術的優勢,推動企業的創新發展。
詳情請看：
