Fortinet發佈了一篇人工智慧在網路安全中的力量和局限性
人工智慧（AI）是一把雙刃劍，它既可以幫助網路安全的防禦者，也可以被網路犯罪的攻擊者利用。隨著人工智慧的發展，特別是生成式人工智慧（GenAI）的應用，今天的資訊安全主管（CISO）面臨了新的網路安全挑戰。這並不令人意外，因為 GenAI 在工作場所的使用越來越普遍，去年有三分之二的組織報告說他們已經開始使用它，而只有 3% 的企業沒有計畫採用它。
人工智慧帶來的挑戰和影響
一個想要從事惡意網路行為的人不再需要任何程式設計技能，因為他們可以使用大型語言模型（LLM）的 AI 工具來寫出惡意軟體。AI 也可以快速利用一旦公開的軟體漏洞，讓惡意行為者比許多應用供應商的修補或更新更快地武裝和利用這些漏洞。美國總統拜登簽署的關於 AI 的行政命令指出，AI 有可能通過自動發現和利用各種潛在的網路攻擊目標，來實現國家級的攻擊性網路行動。
GenAI 也可以大大提高針對性的網路釣魚攻擊的精密度，使它們超越了組織通常教導用戶要注意的標準內容和拼寫錯誤或不自然的語法。現在，當一個惡意行為者竊取受害者的通訊錄時，他們也可能取得電子郵件內容，並使用它來生成與被入侵者與每個收件人使用的語法和主題相匹配的定製電子郵件。
AI 也為網路犯罪者提供了新的工具和能力。例如，組織通常會訓練員工，以對抗企圖繞過正常流程，並轉移資金以支持高級執行人員（如 CEO）的商業電子郵件欺詐請求，方法是通過電話或視訊聯繫請求者，以驗證發送者和請求的真實性。犯罪者已經開始使用 AI 生成的聲音和視頻偽裝成據稱的發送者，並使用聊天機器人生成的回應來破壞這種檢查。
AI 驅動的資料分析為惡意網路行為者提供了新的利用工具，使新類型的資料成為有吸引力的目標。十年前，只有國家級的行為者擁有資料中心和計算能力，才能利用大型資料集。
人工智慧帶來的優勢和解決方案
網路安全的防禦者也可以利用 AI 進行智慧自動化和防禦策略。AI 有潛力在與 AI 裝備的對手和他們帶來的動態威脅的競爭中，平衡戰場。
為了有效地利用 AI，網路安全的防禦者需要採取以下幾個步驟：
- 建立一個 AI 準備的組織，包括培養 AI 相關的技能、文化和流程。
- 選擇一個可信賴的 AI 供應商，評估其 AI 的質量、安全性和可解釋性。
- 部署一個全面的 AI 驅動的網路安全平台，利用 AI 的能力來提高偵測、預防、回應和復原的效率和效果。
- 參與公私合作夥伴關係，共享 AI 相關的資訊、威脅情報和最佳實踐，以加強網路安全的整體韌性。
人工智慧是一把雙刃劍，它既帶來了新的挑戰，也帶來了新的機會。網路安全的防禦者需要採取積極的態度，利用 AI 的優勢，同時防範 AI 的限制，以保護組織免受網路攻擊的威脅。
詳情請看：