The hacker news發佈了一篇新的擁抱臉部漏洞使人工智慧模型面臨供應鏈攻擊
最近，資安公司Lasso Security發現了Hugging Face平台存在一個API漏洞，該漏洞可能導致微軟、Meta和Google等公司的AI模型被黑客非法訪問，甚至可能出現污染訓練數據或窃取、修改AI模型的情況。
Hugging Face是一個受歡迎的協作平台，用於托管預訓練的機器學習模型和數據集，以及構建、部署和訓練它們。該平台的Safetensors格式旨在保護張量的安全性，而不是像pickles那樣可能被惡意利用的格式。Safetensors還提供了一個轉換服務，使用戶可以通過拉取請求將任何PyTorch模型（即pickle）轉換為其Safetensor等效形式。
研究人員的分析發現，理論上攻擊者可以使用惡意的PyTorch二進制文件來劫持托管的轉換服務，並破壞主機系統。此外，與SFConvertbot相關的令牌（這是一個官方設計的機器人，用於生成拉取請求）可能被竊取，以便偽裝成轉換機器人向站點上的任何存儲庫發出惡意拉取請求，從而可能在模型中植入神經後門。
如果用戶嘗試轉換自己的私有存儲庫，攻擊可能導致Hugging Face令牌被竊取，從而存取內部模型和數據集，甚至可能對其進行破壞。此外，攻擊者還可以利用任何用戶都可以為公共存儲庫提交轉換請求的事實，來劫持或更改廣泛使用的模型，從而可能導致重大的供應鏈風險。
總之，儘管Hugging Face的目的是保護機器學習模型，但其轉換服務已被證明是脆弱的，可能導致通過Hugging Face官方服務進行大規模的供應鏈攻擊。
詳情請看：