Help net security發佈了一篇網路犯罪分子利用人工智慧開發惡意軟體的新時代
網路安全是一個永不停歇的戰場，隨著科技的進步，攻擊者和防禦者都在不斷地尋找新的方法和工具來對抗對方。近年來，人工智慧（AI）成為了一個熱門的話題，它不僅可以幫助我們解決各種問題，提高效率和創造力，也可以被網路犯罪者用來開發更強大、更隱蔽、更智能的惡意軟體。
根據 Group-IB 的《高科技犯罪趨勢 2023/2024》報告[1][1]，勒索軟體團體和初始訪問經紀人（IABs）之間的聯盟仍然是網路犯罪產業的強大引擎，這從 2023 年到 2024 年間，被上傳到專門的洩漏網站（DLS）的公司數量增加了 74% 可以看出。全球的威脅行為者也表現出對蘋果平台的增加興趣，這從黑市上與 macOS 信息竊取器相關的銷售增加了五倍可以證明。國家支持的威脅行為者，也稱為先進持續性威脅（APT）組織，表明沒有任何地區可以免受網路威脅。Group-IB 的專家發現，出售零日漏洞的公開帖子數量增加了 70%，並且還識別出網路犯罪者惡意使用合法服務和人工智慧技術作為 2024 年的主要網路風險。
《高科技犯罪趨勢 2023/2024》報告還包括了一個關於人工智慧和網路安全威脅之間關係的部分。它詳細介紹了網路犯罪者如何利用這項新技術，包括濫用大型語言模型（LLMs）如 ChatGPT，以及通過人工智慧整合對企業數據的潛在風險。
人工智慧的威脅不是虛假的
網路犯罪者已經展示了人工智慧如何幫助他們只用有限的編程語言知識就可以開發惡意軟體，構思新的 TTPs（戰術、技術和程序），撰寫用於社交工程攻擊的令人信服的文本，以及提高他們的操作效率。大型語言模型如 ChatGPT 仍然被廣泛使用，Group-IB 的分析師觀察到地下論壇對 ChatGPT 破解和專門的生成預訓練變換器（GPT）開發的持續興趣，尋找繞過 ChatGPT 的安全控制的方法。
Group-IB 的專家還注意到，自 2023 年中期以來，已經有四個 ChatGPT 風格的工具被開發出來，用於協助網路犯罪活動：WolfGPT、DarkBARD、FraudGPT 和 WormGPT，它們都有不同的功能。FraudGPT 和 WormGPT 是地下論壇和 Telegram 頻道上高度討論的工具，專門用於社交工程和釣魚。相反，像 WolfGPT 這樣的工具，專注於代碼或漏洞，由於訓練的複雜性和可用性問題，並不受歡迎。然而，它們的進步對於複雜的攻擊構成了風險。
Group-IB 的《高科技犯罪趨勢 2023/2024》還強調了在暗網上出售的被竊取的 ChatGPT 憑證，這建立在過去的研究之上。由於越來越多的員工依賴 ChatGPT 來優化工作並存儲過去的互動，被竊取的登錄信息可能會暴露敏感信息，對企業造成重大的安全風險。從 2023 年 1 月到 2023 年 10 月，Group-IB 檢測到暗網上有超過 225,000 條日誌出售，其中包含被竊取的 ChatGPT 憑證。
如何防範人工智慧的攻擊
面對人工智慧的威脅，企業和個人需要採取一些措施來提高自己的網路安全水平。以下是一些建議：
- 增強對人工智慧的認識和教育，了解它的優勢和風險，以及如何辨別和防止人工智慧的攻擊。
- 使用可靠的安全軟體和服務，定期更新和掃描系統，阻止和清除任何可疑的活動或文件。
- 避免打開來自未知或不可信來源的郵件或附件，不要點擊任何可疑的鏈接或彈出窗口，不要輸入任何敏感的信息或憑證。
- 檢查和管理自己的數據和隱私設置，限制對人工智慧服務的訪問和使用，不要將任何重要或機密的信息存儲在雲端或共享給第三方。
- 監測和報告任何人工智慧的攻擊或濫用的跡象，與其他用戶和組織分享信息和經驗，並尋求專業的# 網路犯罪者利用人工智慧開發新一代的惡意軟體
網路安全是一個永不停歇的戰場，隨著科技的進步，攻擊者和防禦者都在不斷地尋找新的方法和工具來對抗對方。近年來，人工智慧（AI）成為了一個熱門的話題，它不僅可以幫助我們解決各種問題，提高效率和創造力，也可以被網路犯罪者用來開發更強大、更隱蔽、更智能的惡意軟體。
根據 Group-IB 的《高科技犯罪趨勢 2023/2024》報告[1][1]，勒索軟體團體和初始訪問經紀人（IABs）之間的聯盟仍然是網路犯罪產業的強大引擎，這從 2023 年到 2024 年間，被上傳到專門的洩漏網站（DLS）的公司數量增加了 74% 可以看出。全球的威脅行為者也表現出對蘋果平台的增加興趣，這從黑市上與 macOS 信息竊取器相關的銷售增加了五倍可以證明。國家支持的威脅行為者，也稱為先進持續性威脅（APT）組織，表明沒有任何地區可以免受網路威脅。Group-IB 的專家發現，出售零日漏洞的公開帖子數量增加了 70%，並且還識別出網路犯罪者惡意使用合法服務和人工智慧技術作為 2024 年的主要網路風險。
《高科技犯罪趨勢 2023/2024》報告還包括了一個關於人工智慧和網路安全威脅之間關係的部分。它詳細介紹了網路犯罪者如何利用這項新技術，包括濫用大型語言模型（LLMs）如 ChatGPT，以及通過人工智慧整合對企業數據的潛在風險。
人工智慧的威脅不是虛假的
網路犯罪者已經展示了人工智慧如何幫助他們只用有限的編程語言知識就可以開發惡意軟體，構思新的 TTPs（戰術、技術和程序），撰寫用於社交工程攻擊的令人信服的文本，以及提高他們的操作效率。大型語言模型如 ChatGPT 仍然被廣泛使用，Group-IB 的分析師觀察到地下論壇對 ChatGPT 破解和專門的生成預訓練變換器（GPT）開發的持續興趣，尋找繞過 ChatGPT 的安全控制的方法。
Group-IB 的專家還注意到，自 2023 年中期以來，已經有四個 ChatGPT 風格的工具被開發出來，用於協助網路犯罪活動：WolfGPT、DarkBARD、FraudGPT 和 WormGPT，它們都有不同的功能。FraudGPT 和 WormGPT 是地下論壇和 Telegram 頻道上高度討論的工具，專門用於社交工程和釣魚。相反，像 WolfGPT 這樣的工具，專注於代碼或漏洞，由於訓練的複雜性和可用性問題，並不受歡迎。然而，它們的進步對於複雜的攻擊構成了風險。
Group-IB 的《高科技犯罪趨勢 2023/2024》還強調了在暗網上出售的被竊取的 ChatGPT 憑證，這建立在過去的研究之上。由於越來越多的員工依賴 ChatGPT 來優化工作並存儲過去的互動，被竊取的登錄信息可能會暴露敏感信息，對企業造成重大的安全風險。從 2023 年 1 月到 2023 年 10 月，Group-IB 檢測到暗網上有超過 225,000 條日誌出售，其中包含被竊取的 ChatGPT 憑證。
如何防範人工智慧的攻擊
面對人工智慧的威脅，企業和個人需要採取一些措施來提高自己的網路安全水平。以下是一些建議：
- 增強對人工智慧的認識和教育，了解它的優勢和風險，以及如何辨別和防止人工智慧的攻擊。
- 使用可靠的安全軟體和服務，定期更新和掃描系統，阻止和清除任何可疑的活動或文件。
- 避免打開來自未知或不可信來源的郵件或附件，不要點擊任何可疑的鏈接或彈出窗口，不要輸入任何敏感的信息或憑證。
- 檢查和管理自己的數據和隱私設置，限制對人工智慧服務的訪問和使用，不要將任何重要或機密的信息存儲在雲端或共享給第三方。
- 監測和報告任何人工智慧的攻擊或濫用的跡象，與其他用戶和組織分享信息和經驗，並尋求專業的助手。如果您想了解更多關於人工智慧和網路安全的信息，您可以參考 Group-IB 的報告，或者訪問他們的網站。
人工智慧是一個雙刃劍，它可以為我們帶來很多好處，也可以被網路犯罪者用來對我們造成傷害。我們需要保持警惕和敏感，並採取適當的措施來保護自己和我們的數據。我們也需要與其他用戶和組織合作，共同應對人工智慧的威脅，並促進人工智慧的負責任和道德的使用。最後，我們需要不斷地學習和更新我們的知識和技能，以適應不斷變化的網路環境。
詳情請看：