當代社會,人工智慧(AI)的發展已經無可避免地影響到各行各業,金融業自然也不例外。隨著生成式AI的興起,它為金融機構帶來了許多商業和網路安全上的效益,但同時也存在著一些安全威脅和風險。
首先,網路犯罪分子可能會濫用AI技術進行資料外洩行為。他們可以利用AI自動大量產生具有誘騙性的釣魚郵件,誘使受害者不知不覺洩漏敏感資訊。更有甚者,高手級駭客還可能竄改用於訓練生成式AI模型的大量語料庫數據,從而導致AI輸出受到污染,進而危及金融機構的合法性、聲譽和營運。
此外,即使沒有惡意的威脅,生成式AI模型訓練數據本身也可能存在問題,例如包含了銀行帳戶或信用卡號碼等隱私資訊,或者受到了某些偏見的影響。若金融機構在使用AI輸出時未經適當審核,輕率採信了這些有問題的資訊,也可能失去監管機構、消費者和投資者的信任。
不只網路安全方面,生成式AI也可能被惡意利用於其他方面。隨著新法規的出台實施,網路犯罪分子可能會利用AI技術,武裝勒索軟件攻擊的能力,迫使被攻擊企業在法定揭露期限前就範付贖,以避免敏感資訊被公開。
此外,量子運算和AI的最新進展,對現有的加密技術也帶來了挑戰。金融業應加強研發新型加密方法,以因應未來的變革。供應鏈中的零日漏洞,也可能讓金融業暴露在網路攻擊的威脅下,例如針對交易、支付及後勤作業系統的攻擊。
為了應對種種威脅,金融業必須採取行動,加強網路衛生,確保在遭受攻擊時仍能維持營運。與供應商建立緊急應變管道,要求他們加強網路安全防護,並與整個產業共同分享資訊,緊密合作,勢將是未來的必要之舉。
總的來說,生成式AI無疑為金融業帶來許多好處,但也引發了新的網路安全風險。我們必須審慎評估AI的使用,並制定完善的因應措施,方能在享受AI帶來的紅利的同時,也確保金融業的系統和數據安全,維護整體運作的可信賴性。
詳情請看：
AI abuse and misinformation campaigns threaten financial institutions