Help net security發佈了一篇網路犯罪分子利用人工智慧提高生產力
AI 技術有許多優點，可以幫助我們提高效率、自動化流程、創造新的價值。但是，AI 技術也帶來了許多挑戰，尤其是在資料保護、網路安全和倫理方面。根據 iProov 的報告，網路犯罪者正在利用先進的 AI 工具，進行各種形式的攻擊，例如臉部替換、深度偽造、社交工程等，對我們的身分驗證系統造成威脅。
臉部替換是一種利用生成式 AI 工具，將一個人的臉部特徵換成另一個人的技術。這種技術可以用來製作有趣的影片或照片，但也可以用來欺騙人類的眼睛，甚至一些不夠先進的生物辨識系統。網路犯罪者可以用臉部替換技術，來模仿他人的身分，進行詐騙或盜用個人資料。為了隱藏虛擬攝影機的存在，他們還會使用模擬器等傳統的網路攻擊工具，使得身分驗證系統更難發現異常。
深度偽造是一種利用 AI 技術，製作出看起來真實的影音或文字內容的技術。這種技術可以用來創造新的藝術作品，但也可以用來散佈虛假或誤導的資訊，影響公眾的意見或行為。網路犯罪者可以用深度偽造技術，來偽造政治人物、名人、專家等的聲音或形象，發表不實的聲明或訊息，試圖操縱選舉、市場、社會等。
社交工程是一種利用人類的心理、情感或信任，誘使他們透露個人資訊或執行某些行為的技術。這種技術可以用來建立良好的人際關係，但也可以用來操控或欺騙他人，獲取不正當的利益。網路犯罪者可以用社交工程技術，來假冒他人的身分，或利用他人的關係，來取得信任或同情，進而騙取密碼、金錢、存取權等。
這些 AI 技術的攻擊，不僅會對個人或組織造成財務損失，還會對社會的安全、穩定、和諧造成嚴重的影響。因此，我們需要加強對 AI 技術的安全和倫理的規範和監督，以確保其正確和負責任的使用。根據 ISC2 的研究，88% 的網路安全專家認為 AI 技術會顯著影響他們的工作，並且 82% 認為需要有全面和具體的法規，來規範 AI 技術的安全和倫理的使用。然而，目前只有 27% 的參與者表示他們的組織有關於 AI 技術的安全和倫理的正式政策，而 41% 的參與者表示他們對於保護 AI 和 ML 技術的能力很低或沒有。
因此，我們需要加強對 AI 技術的教育和培訓，提高網路安全專家和一般用戶的意識和能力，以防範和應對 AI 技術的攻擊。同時，我們也需要加強對 AI 技術的研發和創新，利用 AI 技術來提升網路安全的水平和效率，以及發揮 AI 技術的正面作用。最後，我們也需要加強對 AI 技術的合作和協調，建立一個由政府、產業、學術、社會等各方參與的多元治理機制，以確保 AI 技術的安全和倫理的使用，並促進 AI 技術的可持續發展。
詳情請看：