Tenable發佈了一篇網絡安全快照：英國 NCSC 表示，請抑制您對工作中 ChatGPT 類工具的熱情
人工智慧聊天機器人是一種利用大型語言模型（LLMs），如ChatGPT，來產生自然語言對話的工具。這種工具在近年來受到了很多關注和熱情，因為它們可以提供各種商業應用，如客服、教育、娛樂等。然而，英國國家網路安全中心（NCSC）在本週發布了兩篇博客，警告企業在採用這種工具時，應該放慢腳步，並確保了解它們的網路安全風險。
NCSC指出，人工智慧聊天機器人可能面臨以下幾種攻擊：
- 提示注入攻擊：攻擊者通過在聊天機器人的查詢欄中輸入特殊的提示，使其產生非預期的行為，如洩露機密信息或生成冒犯性的回答。
- 數據污染攻擊：攻擊者通過篡改聊天機器人的訓練數據集，使其為惡意目的服務。
此外，NCSC還提醒企業，這是一個新興且快速發展的領域，所以現在採用的產品可能在不久的將來發生根本性的變化，甚至突然消失。因此，企業在決定將這種工具與哪些業務操作集成時，應該考慮到這一點。此外，關於人工智慧聊天機器人的能力、弱點和漏洞，全球科技界還沒有完全理解。
NCSC給出了以下一些風險緩解建議：
- 在從互聯網下載預訓練的人工智慧模型時，應用標準的供應鏈安全實踐，因為它們可能包含漏洞和其他安全問題。
- 關注影響這些工具的漏洞披露，並及時升級和修補。
- 理解這種技術目前處於“測試”階段，所以在這個時候決定將它與哪些業務操作集成。
詳情請看：