自從ChatGPT面世以來,生成式人工智能(GenAI)工具的普及程度與日俱增。然而,隨之而來的是一股追求更大模型、更多訓練數據的趨勢,其結果卻往往不盡如人意。本文作者German Lancioni提出了一個反直覺的觀點:在GenAI領域,質量比數量更為重要。
作者以McAfee公司為例,闡述了如何通過專注於數據質量來提升AI模型的效能。他們採用了多種方法來確保數據的高質量,包括使用全球感測器網絡收集威脅線索、由AI工程師和數據專家進行數據篩選、減少偏見來源、交叉匯集數據源,以及豐富和標準化樣本等。這些努力最終轉化為強大的AI保護能力,每週可檢測超過150萬個威脅,並對超過5億個網頁進行分類,為用戶提供安全的數位體驗。
文章還強調了人機協作的重要性。儘管AI技術不斷進步,但人類專家在整個過程中仍然扮演著不可或缺的角色。網絡安全AI專家對數據的篩選和指導對於開發可信賴的AI解決方案至關重要。這種人機協作不僅能夠減少潛在的錯誤,還能夠將人類專業知識擴展到更廣泛的用戶群中。
在應對現代網絡威脅時,McAfee採用了上下文感知的方法。許多現代詐騙手法變得更加隱蔽,甚至連專家也難以識別。因此,理解威脅的上下文變得尤為重要。此外,McAfee還致力於開發可解釋的AI,幫助用戶理解為什麼某些內容被標記為威脅,並提供識別未來威脅的線索。這種透明度和教育性的做法對於建立更安全的數位世界至關重要。
作者認為,GenAI的發展才剛剛開始,未來還有很長的路要走。作為開發者,雖然容易被新技術的興奮感所吸引,但更重要的是要確定一個最終目標,並採取負責任和安全的步驟來實現它。McAfee承諾保護客戶,並相信AI與人類威脅情報之間的協同作用可以提供世界級的可信賴AI保護體驗。
這篇文章為我們提供了一個重要的洞見:在追求AI進步的過程中,我們不應盲目追求更大的模型或更多的數據,而應該更加注重數據的質量和多樣性。同時,人類專家的參與仍然是確保AI系統可靠性和有效性的關鍵。這種質量優先、人機協作的方法不僅適用於網絡安全領域,也可能對其他AI應用領域有所啟發。
此外,文章還強調了AI透明度和可解釋性的重要性。在當今充滿挑戰的數位環境中,幫助用戶理解AI的決策過程,並賦予他們識別潛在威脅的能力,對於建立用戶信任和提高整體安全性至關重要。
總的來說,這篇文章為我們展示了一個負責任和有效的GenAI開發方法。通過專注於數據質量、重視人機協作,並致力於提高AI的透明度和可解釋性,我們可以開發出更可靠、更有效的AI系統,從而為用戶提供更好的保護和服務。這種方法不僅適用於網絡安全領域,也可能對其他技術領域的發展提供有價值的參考。
詳情請看：
