近期 IBRS 顧問 Joseph Sweeney 博士於 Help Net Security 接受採訪,探討將 AI 融入資訊管理系統的潛在風險。他預測未來 AI 驅動的資訊管理工具會有長足進步,其中包括知識圖譜的整合,為分析提供更細緻的洞見。
AI 在資訊管理的運用
組織在將 AI 整合至資訊管理系統時,應採取哪些措施確保資料隱私與安全?
AI 於資訊管理領域有多種應用,每種都有其風險考量。
最大風險在於將 AI 用作搜索和生成工具,讓 AI 去分析整個組織的資訊,讓員工可以向 AI 提問,就像使用 ChatGPT 一樣。看似很棒,但若未能仔細規劃誰可以存取什麼資訊,這類生成式 AI 服務勢必會洩露內部和外部的敏感隱私資訊。換言之,在現有企業內容之上使用生成式 AI,務必嚴格注意資訊敏感性標籤、資訊分類和管治。
第二類 AI 用於了解潛在風險所在。隨著協作的普及,許多組織的資訊散布在不同位置。一次性整合到中央管理的電子文件和記錄管理解決方案已不再可行。新興的較佳做法是使用 AI 掃描多個儲存庫,確定每個位置存有多少敏感或私密資訊,繪製出最緊迫的風險所在。有了這些資訊,資訊管理團隊就可以優先處理最嚴重的資訊洩露風險。
最後,AI 可用於大規模審查和自動分類資訊。但必須考慮這些 AI 服務是如何完成此項任務的:資訊是否送往第三方 AI 服務進行分析?資訊是否被儲存或快取,如果是,則如何和在何處儲存?分析的品質如何?
總之,在讓搜索和生成式 AI 服務接觸您的資訊之前,必須嚴格控制好資訊管治。要為此類 AI 做好大量資訊的準備,您將需要 AI 服務的協助!
企業在管理資訊激增方面面臨的最大挑戰是什麼?AI 如何減緩這些挑戰?
組織已無法單靠人工管理資訊。即使擁有龐大的資訊管理團隊,也難以應對來源太多、格式太雜的海量資訊。
根據 IBRS/EncompaaS 最新研究,唯一的解決之道是借助 AI 閱讀資訊、處理敏感內容、分類並套用治理和訪問規則。AI 可以為資訊管理團隊完成這些基本且關鍵的任務。
此外,AI 還可以發現資訊管治何時需要改進:建議新的分類方式,並向資訊管理專業人員提出問題。
AI 如何為合規性和管治作出貢獻,尤其是在監管壓力不斷加大的情況下?
AI 服務提供了偵測、分類和(在某些專門情況下)遮蔽敏感資訊的可擴展性。這些服務早已達到超越人工手動分類文件的水平。分類觸發自動化流程,確保合規性。
當 AI 被用來評估和在文件生命週期中應用分類,最大的資訊不合規原因就消除了。這是自動化帶來的高合規性和低風險的案例。
請解釋"內容認知"的概念,並探討其對未來資訊管理策略的潛在影響。
自動分類已存在近十年。內容認知在此基礎上進一步發展,利用更強大的 AI 算法提供更準確、更細緻的文件自動分類。但內容認知還能夠進一步提取結構化數據from非結構化文件。
這些應用前景令人振奮。例如,服務公司可以運行一份報告,找出特定地理位置客戶價值超過某個金額的所有合約,並進行合約條款變更的情境分析。將非結構化數據視為結構化數據,將創造全新的商業機會。
內容認知也是組織的數據資產梳理風險的關鍵,使資訊管理者能夠優先處理關鍵問題。同樣地,它還可以確定哪些文件根本無需管理。知道不需要管理的內容,可節省大量成本和時間。
最後,內容認知可以判斷分類方案是否恰當,並向資訊管理部門提供改進建議。
隨著 AI 驅動的資訊管理工具的發展,企業在選擇合適工具時應考慮哪些標準?
有些組織只想要一個 AI 工具,幫助他們從舊有的電子文件和記錄管理系統,以及傳統共享文件夾的混亂中轉移到新的協作平台。在大多數情況下,這是由於 Microsoft 365 平台的使用日益普及而產生的需求。
在這些情況下,內容認知工具可以首先繪製出風險所在(最不合規的文件位於何處)。然後,該工具可以針對特定的資訊來源進行分類,並根據政策將文件移動到新平台的正確位置、存檔或銷毀。AI 可用於遷移到新平台時的資訊整理和合規性。
其他組織則採取更長遠的視野,使用內容認知工具在多個平台上提供"原位管理"體驗。這對於有高合規需求的組織尤其重要。
您預計未來幾年智慧型資訊管理的主要趨勢是什麼,尤其是隨著 AI 技術的持續進步?
儘管機器學習和生成式 AI 為 AI 驅動的資訊管理帶來了顯著的性能和質量提升,催生了內容認知,但另一種 AI 技術 - 知識圖譜 - 將進一步提升性能和質量。
將知識圖譜與其他兩大類 AI 相結合,可以提供更加細緻的分析,不局限於文件本身,還可以考慮文件涉及的人員角色、文件中提及的人員、相關項目或活動等。
這目前還停留在科幻小說的範疇,但鑑於圖譜研究的現狀,我預計未來3-5年內,高度自動化的 AI 驅動資訊管理將會出現重大突破。目前正努力推動內容認知前沿的供應商,很可能會率先採用下一波 AI 技術。
詳情請看：