Cisco：Cisco XDR：開放生態系在黑帽事件中加速

在網絡安全領域,合作往往比競爭更為重要。Cisco XDR (擴展偵測與回應)平台的發展歷程,正是這一理念的最佳例證。本文將探討Cisco XDR如何通過開放生態系統的建立,實現了與"競爭對手"的合作,並在短短一年內取得了顯著成果。

Cisco XDR的故事始於Black Hat網絡運營中心(NOC)。Black Hat作為全球最具挑戰性的網絡安全活動之一,其NOC需要提供高度安全和高可用性的網絡環境。為實現這一目標,Black Hat邀請了包括Cisco在內的多家頂級解決方案提供商參與合作。Cisco作為官方移動設備管理、惡意軟件分析和DNS服務提供商,已經連續八年支持Black Hat USA活動。

在NOC的合作過程中,Cisco與其他合作夥伴(如Palo Alto Networks)建立了互信關係。這種關係不僅局限於Black Hat活動,還擴展到了RSA大會和NFL超級碗等重大事件的安全運營中心(SOC)建設。正如Cisco安全部門執行副總裁Jeetu Patel所言:"打敗競爭對手遠不如阻止惡意行為者重要。我們可以集體合作,共同打敗真正的敵人。"

這種合作精神推動了Cisco XDR平台的快速發展。通過與Microsoft、CrowdStrike、SentinelOne等行業領導者建立關係和集成,Cisco XDR不斷擴展其功能和兼容性。最近,Cisco XDR還新增了對Palo Alto Networks防火牆、Microsoft Defender for Office 365等產品的支持,進一步強化了其開放生態系統。

Cisco還推出了"Verified Integrations Program",允許合作夥伴在Cisco XDR集成"交換所"中發布自己的集成方案。這一舉措不僅豐富了XDR的功能,也為合作夥伴提供了更多機會。

Cisco XDR的成功不僅體現在技術層面,更重要的是其促進了整個網絡安全行業的協作。通過在Black Hat、RSA大會等重要場合展示合作成果,Cisco為行業樹立了榜樣,展示了開放生態系統的價值。

展望未來,Cisco XDR將繼續以開放和創新的態度推動"未來SOC"的演進。這不僅包括技術的進步,還包括更深入的行業合作。正如文中所述,阻止惡意行為者比單純的商業競爭更為重要。在這一理念的指導下,我們有理由相信Cisco XDR將在未來取得更大的成就。

這個案例給我們的啟示是:在快速發展的技術領域,開放合作往往能帶來意想不到的收穫。通過建立開放生態系統,Cisco不僅增強了自身產品的競爭力,還推動了整個行業的進步。這種做法值得其他科技公司學習和借鑒。

同時,我們也看到了大型科技活動(如Black Hat)在促進行業合作中的重要作用。這些活動不僅是技術交流的平台,更是建立信任和合作關係的重要場所。對於希望在行業中取得成功的公司來說,積極參與此類活動並非常重要。

總的來說,Cisco XDR的發展歷程為我們展示了一個重要的行業趨勢:在網絡安全這個關乎全球利益的領域,合作共贏正逐漸成為主流。未來,我們期待看到更多類似的成功案例,推動整個行業向著更安全、更開放的方向發展。

詳情請看：

Cisco XDR: Open Ecosystem Accelerated at Black Hat Events

Read More

Help net security：人工智慧在網路安全運作中的作用

隨著科技的快速發展,人工智能(AI)在網絡安全領域扮演著越來越重要的角色。本文深入探討了AI在安全運營中心(SOC)的應用,以及它對網絡安全專業人員工作的影響。

首先,AI在數據分析方面表現出色,能夠快速處理大量數據並識別可能的惡意行為模式。通過自動化日常任務如警報分類、日誌分析和漏洞掃描,AI可以大大提高SOC的工作效率,為人類分析師節省寶貴的時間和資源。然而,AI也有其局限性。它目前還無法做出複雜的情境決策,需要人類的判斷來驗證其輸出並解釋複雜的威脅環境。此外,AI也無法複製人類的戰略思維,無法進行複雜的過程導向決策或與人類利益相關者協調。

儘管如此,AI在網絡安全領域的應用前景仍然十分廣闊。通過自動化日常任務,AI可以釋放人力資源,使安全專業人員能夠專注於高價值的戰略性工作。特別是對於規模較小的組織來說,AI可以幫助他們在有限的資源下提升防禦能力。AI充當了不知疲倦的助手,處理繁重的工作,讓人類分析師將專業知識應用於最重要的領域。

隨著AI的普及,有人擔心許多現有的分析師工作會變得多餘。但實際上,效率的提升更多是幫助組織跟上步伕,而不是消除崗位。AI自動化處理一級警報,但人類仍然需要處理更複雜的警報。工作不會消失,但工作角色可能會改變。這種變化在歷史上並非首次出現。就像微軟Excel的引入改變了會計行業一樣,AI也將重塑網絡安全領域,催生新的專業角色。

未來可能出現的新角色包括安全自動化專家、AI安全工程師和AI安全研究員等。這些專業人員將負責優化AI工具的使用、開發和部署AI驅動的安全解決方案,以及探索新的AI安全方法來應對不斷演變的網絡威脅。隨著組織在網絡安全項目中採用AI,對這些專業人才的需求將會增加,而不是減少就業機會。

最後,需要強調的是,人類的專業知識和判斷力在網絡安全中仍然是不可替代的資產。AI的進步並不意味著人類監督的需求減少,相反,它為網絡安全專業人員創造了更多從事有意義、分析性和創造性問題解決的機會。通過自動化日常任務,AI使人類能夠更好地發揮其獨特的判斷力、直覺力和倫理考量能力,這些在應對複雜和模糊的威脕環境時至關重要。

總的來說,AI在網絡安全運營中的應用既帶來了挑戰,也創造了機遇。它不僅提高了安全運營的效率,還推動了整個行業的發展和創新。然而,我們也必須認識到AI的局限性,並持續重視人類專業知識的價值。未來的網絡安全將是人機協作的新模式,充分結合AI的高效處理能力和人類的創造性思維,共同應對日益複雜的網絡威脅。

詳情請看：

The role of AI in cybersecurity operations

Read More

Fortinet：使用 Fortinet OT 安全平台保護網路實體系統

在當今數位化時代,運營技術(OT)環境已不再是孤立的系統。無論是能源、製造、交通還是醫療等行業,OT環境都融合了網路實體系統(CPS)、智慧建築、物聯網(IoT)等多種技術。這些系統的共同特點是:與IT網路或互聯網相連、可遠程監控管理,以及直接與物理世界互動。然而,隨著連接設備的增加,攻擊面也隨之擴大,安全風險日益提升。

過去五年,OT安全策略從依賴"空氣隔離"轉變為主動連接外部系統,使OT環境更靈活敏捷,但同時也帶來了新的挑戰。為應對這些挑戰,CISO開始採用OT安全網路策略,CIO也將OT風險緩解納入安全運營(SecOps)範疇。在全球法規合規壓力下,整個高管團隊都在尋求可整合的OT專用安全解決方案。

Fortinet提出的OT安全平台正是為滿足這些需求而設計。該平台涵蓋了OT環境的關鍵要素:堅固的網路設備、OT專用代理、安全遠程訪問等。平台的核心功能包括:

1. 安全網路:提供全系列加固或堅固型防火牆、交換機、接入點和5G擴展器,實現物理微分段。

2. 統一SASE:確保應用程序訪問安全,為無法部署完整安全堆棧的站點提供雲端安全。

3. 安全運營:將OT專用模塊添加到IT SecOps產品中,實現IT/OT融合。

4. OT安全服務:提供全面的OT虛擬補丁、設備檢測和分析功能。

5. 生態系統合作:與工業自動化公司和OT環境識別分析供應商建立合作關係。

Fortinet不斷擴展其OT安全平台功能,最新增加了以下特性:

- 增強資產識別和OT網路拓撲

- 擴展虛擬補丁功能

- 推出新的堅固型交換機系列

- 提供安全遠程訪問解決方案

- 更新車載擴展器,支持車隊管理

- 擴展FortiSOAR的OT功能

- 增強FortiAnalyzer的分析報告能力

- 推出針對OT的FortiNDR

- 提供FortiDeceptor即服務,擴展OT和IoT欺騙功能

- 加強與Claroty、Armis等合作夥伴的集成

Fortinet的OT安全平台體現了全面性和前瞻性。它不僅涵蓋了設備、網路和應用程序的安全,還考慮到了OT環境的特殊需求,如惡劣環境適應性、OT專用工具、零信任控制等。平台通過整合多個安全組件,避免了安全零散化和供應商過載的問題。

此外,Fortinet還注重生態系統建設,與工業自動化公司和OT環境分析供應商合作,實現功能深度集成。這種方法有助於提供更全面、更專業的OT安全解決方案。

隨著OT環境日益數位化和互聯,安全挑戰也在不斷演變。Fortinet的OT安全平台通過持續創新和擴展功能,展現了應對這些挑戰的能力。它不僅滿足了當前OT安全需求,還為未來的發展趨勢做好了準備。對於尋求全面、可靠OT安全解決方案的企業來說,Fortinet的平台無疑是一個值得考慮的選擇。

詳情請看：

Securing Cyber-Physical Systems with the Fortinet OT Security Platform

Read More

Help net security：網路威脅情報能力成熟度模型（CTI-CMM）發布

在當今數字時代,網絡安全已成為各組織機構的首要關注點。隨著網絡威脅日益複雜和頻繁,有效的網絡威脅情報(CTI)系統變得至關重要。然而,長期以來,業界一直缺乏一個統一的標準來評估和提升CTI能力。為了填補這一空白,28家行業領袖組織聯手推出了首個網絡威脅情報能力成熟度模型(CTI-CMM)。這一創舉無疑將為整個網絡安全行業帶來深遠影響。

CTI-CMM的獨特之處在於其普遍適用性和中立性。作為一個供應商無關的模型,它能夠適用於各種規模和類型的組織,無論是公共部門還是私營企業。這種靈活性使得CTI-CMM成為一個強大的工具,可以幫助組織評估、改進和優化其CTI計劃。

該模型的開發過程彰顯了行業協作的力量。來自Intel 471、IBM、Kroger、Mandiant等知名企業的專業人士,以及來自比利時網絡安全中心(CCB)等政府機構的專家,共同貢獻了他們的時間、精力和專業知識。這種多元化的參與確保了CTI-CMM能夠涵蓋不同地域、行業和專業領域的需求和最佳實踐。

CTI-CMM的核心價值觀和原則反映了現代網絡威脅情報的本質。它強調情報價值來源於與利益相關者的協作,並支持他們的決策過程。同時,該模型認識到情報工作是一個永無止境的過程,需要持續改進和適應。此外,CTI-CMM堅持情報不應被壟斷或過於僵化,這體現了開放和靈活的理念。

在實踐層面,CTI-CMM採用了十個領域的結構,每個領域都包含具體的目的、CTI使命描述、用例和數據源。這種結構與業界認可的網絡安全能力成熟度模型(C2M2)保持一致,這不僅提高了其可信度,也便於組織將CTI-CMM與現有的安全框架整合。

CTI-CMM的發布標誌著網絡威脅情報領域的一個重要里程碑。它為組織提供了一個清晰的路線圖,幫助他們評估當前的CTI能力,識別改進的機會,並製定長期的發展策略。通過使用這個模型,組織可以更有效地分配資源,優化CTI流程,並最終提高對網絡威脅的防禦能力。

然而,CTI-CMM的成功不僅取決於其技術內容,更取決於業界的廣泛採納和持續改進。作為一個開放的模型,它鼓勵整個網絡安全社區參與到持續優化的過程中。這種集體智慧的應用,將確保CTI-CMM能夠與時俱進,適應不斷演變的網絡威脅環境。

展望未來,CTI-CMM有望成為推動網絡威脅情報標準化和專業化的催化劑。它不僅將幫助個別組織提升其CTI能力,還將促進整個行業的知識共享和最佳實踐交流。隨著更多組織採用這一模型,我們可以期待看到網絡威脅情報實踐的整體質量提升,從而增強全球範圍內對網絡威脅的抵禦能力。

總的來說,CTI-CMM的發布是網絡安全領域的一個重要進展。它為組織提供了一個強大的工具來評估和提升其網絡威脅情報能力,同時也為整個行業設立了一個共同的基準。隨著網絡威脅的不斷演變,CTI-CMM將在幫助組織和行業保持警惕、適應變化方面發揮關鍵作用。

詳情請看：

Cyber Threat Intelligence Capability Maturity Model (CTI-CMM) released

Read More

Help net security：IBM Consulting Cyber​​security Assistant 可協助客戶加速警報調查

在當今日益複雜的網路安全環境中,企業面臨著前所未有的挑戰。隨著網路攻擊事件不斷演變,從即時危機演變為多維度、持續數月的事件,安全團隊正面臨著攻擊過多而時間和人力不足的持久挑戰。為了應對這一難題,IBM諮詢公司推出了創新的網路安全助手,旨在提升威脅檢測和響應服務的效率和準確性。

這個基於IBM watsonx數據和AI平台的新型網路安全助手,融合了生成式AI技術,為IBM的全球安全分析師提供了強大的支持。它不僅能加速威脅調查和識別過程,還能顯著改善對關鍵安全威脅的響應能力。這一創新解決方案的核心優勢在於其能夠大幅減少安全分析師的手動調查和操作任務,使他們能夠更加主動和精確地應對重大威脅,從而幫助客戶改善整體安全態勢。

IBM的威脅檢測和響應(TDR)服務已經能夠自動處理多達85%的警報,而新增的生成式AI技術更進一步提升了效率。例如,對於一個客戶而言,新功能幫助將警報調查時間縮短了48%,這一成果無疑是令人矚目的。

網路安全助手的主要功能包括兩個方面:首先是通過歷史相關性分析加速威脅調查和修復。這項功能將SIEM、網絡、EDR、漏洞和遙測數據進行交叉關聯,提供全面和整合的威脅管理方法。通過分析客戶特定的歷史威脅活動模式,安全分析師能夠更加主動和精確地工作。他們可以訪問攻擊序列的時間線視圖,更好地理解問題並為調查提供更多上下文。助手還會根據分析的歷史活動模式和預設的置信水平自動推薦行動,加快客戶的響應時間,幫助減少攻擊者的停留時間。

其次是通過高級對話引擎簡化操作任務。網路安全助手包含一個生成式AI對話引擎,為客戶和IBM安全分析師提供實時洞察和支持。除了響應開啟或總結工單等請求外,對話功能還可以自動觸發相關操作,包括運行查詢、提取日誌、解釋命令或豐富威脅情報。通過解釋複雜的安全事件和命令,TDR服務可以幫助減少噪音,提高客戶的整體SOC效率。

值得注意的是,這個新型網路安全助手是IBM研究院與IBM諮詢部門合作開發的成果,充分利用了IBM更廣泛的生成式AI能力。它基於公司的Granite基礎模型,在IBM watsonx.ai中進行生產優化,並利用IBM watsonx Assistant作為對話聊天界面。這種跨部門協作和技術整合的方式,展現了IBM在AI領域的全面實力和創新能力。

總的來說,IBM諮詢公司網路安全助手的推出,代表了安全服務領域的一個重要突破。它不僅能夠幫助企業更好地應對當前的安全挑戰,還能通過持續學習和改進,為未來的安全態勢提供長期支持。在安全資源短缺而安全風險和漏洞過剩的今天,這樣一個能夠持續學習和改進的智能系統,無疑將為企業帶來巨大價值。

詳情請看：

IBM Consulting Cybersecurity Assistant helps clients accelerate alert investigation

Read More

Palo alto：利用平台化－加強、統一和簡化網路安全工具

在當今快速變化的科技環境中,網絡安全已成為組織面臨的最關鍵挑戰之一。新興技術趨勢不斷改變需要保護的攻擊面,同時惡意行為者也利用新技術不斷演進其攻擊工具和技術。在這種情況下,信息安全團隊轉向專業的單點產品來填補安全漏洞。然而,安全產品的快速增長卻造成了複雜性,使實現預期的安全成果變得困難。越來越多注重安全的企業正轉向平台化策略,以實現更好的安全成果並簡化運營。

過去十年,眾多新技術趨勢徹底改變了企業保護自身的方式。智能手機、雲計算、遠程工作和人工智能等技術為信息安全帶來了複雜性,但它們必須得到支持才能滿足當今勞動力的需求並獲得競爭優勢。惡意行為者不僅試圖找出這些技術的弱點以滲透企業網絡,還利用相同的技術改進其攻擊手段。例如,雲基礎設施被用來快速將攻擊規模擴大到前所未有的水平。現在,人工智能正在為深度偽造、高級攻擊技術甚至幫助黑客修正網絡釣魚郵件中的拼寫和語法錯誤提供動力。

組織平均使用31種工具來保護其網絡和系統。每種工具都是為了特定目的而購買的,可能是為了保護企業的某個方面(如雲應用或遠程工作者),或者是為了防範某些類型的威脅(如基於文件的惡意軟件或DNS攻擊)。然而,每個工具都有不同的控制台、數據記錄慣例和上下文要求,收集自己的孤立數據。將這些數據整合成安全的全面視圖需要超出大多數企業所能實現的專業知識和資源水平。

平台化策略將眾多產品和服務整合到一個統一的架構中,具有單一數據存儲、精簡的管理和運營以及原生集成,使每個組件比相應的"最佳品種"單點產品更強大。這提供了出色的用戶體驗,提高了生產力,從根本上簡化了運營,並改善了安全成果。

為了實現平台化的承諾,必須滿足幾個關鍵要求:首先,整合到平台中的每個產品或服務必須與該領域相應的單點產品一樣好或更好。其次,平台必須是模塊化的,允許組織隨時間逐步採用平台。最後,平台還必須實現原生平台集成,使每個組件比獨立運行時更強大。

Palo Alto Networks已經開發了三個利用Precision AI®的平台,共同為整個企業提供全面的網絡安全方法。Strata是網絡安全平台,Prisma Cloud是代碼到雲平台,Cortex是AI驅動的SecOps平台。這些平台提供了旨在幫助客戶從根本上簡化網絡安全運營並提高網絡安全成果的解決方案。

採用Palo Alto Networks平台可以快速而簡單,這要歸功於其深厚的技術人才和客戶顧問團隊。他們將幫助確保您擁有適合您需求的正確平台,並幫助您進行設置。Palo Alto Networks已準備好幫助任何組織,包括那些與其他網絡安全技術供應商合作的組織,找到從平台化中受益的切實方法。

總的來說,平台化策略為組織提供了一個強大的工具,以應對當前複雜的網絡安全環境。通過整合和簡化安全工具,企業可以提高效率,降低複雜性,並最終實現更好的安全成果。隨著技術環境的不斷演變,採用這種策略的組織將更有能力應對新興威脅並保護其數字資產。

詳情請看：

Leverage Platformization – Strengthen, Unify and Simplify Cybersecurity Tools

Read More

微軟：如何提高事件響應準備能力

在當今日益複雜的網絡威脅環境中,提升組織的事件響應準備至關重要。微軟事件響應團隊的insights指出,一個成功的事件響應準備計劃需要從流程、人員和技術三個方面著手。雖然技術方面往往受到較多關注,但真正決定事件響應成效的是對流程和人員的重視。

在流程方面,制定一個健全的災難恢復計劃是基礎。這個計劃應該涵蓋對潛在威脅和脆弱點的全面風險評估,設定恢復目標和時間,並進行定期測試和演練。許多組織缺乏內部事件響應團隊,可以考慮外包給如微軟事件響應服務等專業團隊。一個完善的災難恢復計劃可以大大加快調查和恢復過程,確保業務連續性。

驗證有效的部署機制也是流程中的重要一環。保護軟件更新和系統部署的完整性和安全性可以防止未經授權的篡改。在事件響應過程中,快速部署工具的能力尤為重要。此外,全面的審計和日誌記錄對於威脅檢測和事件響應至關重要。採用基於風險的方法來配置日誌,並利用如Microsoft Sentinel等SIEM解決方案進行高效的大量數據分析,可以顯著提升事件檢測和響應能力。

在人員方面,指定一名事件經理對於有效協調事件響應工作至關重要。這個角色需要深入理解業務流程和技術基礎設施,具備強大的領導和溝通能力。沒有明確的領導,混亂的溝通可能被攻擊者利用,導致工作分散、網絡停機時間延長。與安全供應商保持開放的溝通也很重要,這可以讓組織獲得最新的技術、威脅情報和最佳實踐。

在技術方面,加強身份安全是重中之重。對具有管理權限的賬戶和服務進行全面的零信任審計,實施最小權限原則,可以顯著降低攻擊面和權限提升的風險。微軟事件響應團隊建議採用企業訪問模型或分層方法來加強身份平面的安全性。多因素認證、制定閒置賬戶策略等簡單措施可以快速提高安全性。定期審計服務和機器,對資產進行分類和漏洞掃描,也是技術防禦的重要組成部分。

總的來說,在面對不可避免的網絡威脅時,主動準備是關鍵。通過加強防禦、維護全面的災難恢復計劃,並利用如微軟事件響應團隊等專家資源,組織可以更有信心地管理威脅。有效的協調和強大的日誌機制可以減少事件影響,確保運營彈性。組織應該重視流程、人員和技術這三個方面,全面提升事件響應準備水平。同時,持續關注最新的安全解決方案和最佳實踐,保持警惕和學習,才能在不斷演變的網絡安全環境中保持優勢。

這篇文章為組織提供了一個全面的框架來提升事件響應準備。它強調了準備工作的重要性,並提供了具體可行的建議。從制定災難恢復計劃,到指定事件經理,再到實施技術防禦措施,每一步都是提升組織網絡安全態勢的關鍵。在當今複雜的威脅環境中,組織需要採取積極主動的態度,不斷評估和改進其事件響應能力,才能有效應對各種潛在的網絡安全挑戰。

詳情請看：

How to boost your incident response readiness

Read More

The hacker news：Vanna AI 中的即時注入缺陷使資料庫面臨 RCE 攻擊

這篇文章討論了一個名為Vanna AI的機器學習庫中存在的高風險安全漏洞(CVE-2024-5565),該漏洞可能被利用來實現遠程代碼執行。以下是對文章內容的800字心得報告:

近年來,隨著生成式人工智慧(AI)模型的快速發展和廣泛應用,其潛在的安全風險也日益凸顯。這篇文章揭示了一個典型案例,說明了AI系統如果設計不當,可能會被惡意攻擊者利用,造成嚴重的安全隱患。

Vanna AI是一個基於Python的機器學習庫,允許用戶通過自然語言提問的方式與SQL數據庫進行交互。它使用大型語言模型(LLM)將用戶的問題轉換為相應的SQL查詢。然而,研究人員發現了該庫中的一個嚴重安全漏洞,攻擊者可以利用這個漏洞實現遠程代碼執行。

這個漏洞的核心問題在於Vanna AI的"ask"函數存在提示注入(prompt injection)風險。提示注入是一種針對AI模型的攻擊技術,攻擊者通過精心構造的輸入,繞過AI系統的安全機制,使其執行原本不允許的操作。在Vanna AI的案例中,攻擊者可以通過構造特殊的提示,誘導系統執行任意Python代碼,而不僅僅是生成預期的數據可視化結果。

文章還介紹了幾種常見的AI攻擊技術,如間接提示注入、多輪越獄(Crescendo)和骨架鑰匙(Skeleton Key)等。這些技術都旨在繞過AI系統的安全限制,使模型產生有害、非法或違反其原始目的的內容。特別值得注意的是Skeleton Key攻擊,它能夠徹底改變AI模型的行為準則,使其完全忽視原有的倫理和安全限制。

Vanna AI漏洞的發現凸顯了在開發和部署AI系統時,必須高度重視安全性。僅僅依賴預先設定的提示(pre-prompting)作為防禦機制是不夠的,開發者需要採用更加健壯的安全機制,特別是在AI系統與關鍵資源(如數據庫)或動態代碼生成進行交互時。

針對這個漏洞,Vanna AI團隊已發布了安全加固指南,提醒用戶Plotly集成功能可能被用來生成任意Python代碼,建議在沙箱環境中使用該功能。然而,這種事後的補救措施也反映出,在AI系統設計階段就應該考慮到安全性,而不是等到問題出現後再進行修補。

這個案例給我們的啟示是,隨著AI技術的快速發展和廣泛應用,安全問題將變得越來越重要。開發者和企業需要提高警惕,加強對AI系統的安全治理,採取更加嚴格的安全措施。同時,也需要加強對AI安全風險的研究和教育,提高整個行業的安全意識。

總的來說,Vanna AI的漏洞案例為我們敲響了警鐘。它提醒我們,在擁抱AI技術帶來的便利和創新的同時,也要充分認識到其潛在的安全風險。只有在保證安全的前提下,AI技術才能真正造福人類,推動社會進步。

詳情請看：

Prompt Injection Flaw in Vanna AI Exposes Databases to RCE Attacks

Read More

Help net security：Datadog LLM Observability 確保生成式 AI 應用的安全

隨著人工智慧技術的快速發展，大型語言模型(LLM)在各行各業的應用日益廣泛。然而，將LLM應用部署到生產環境並不是一件容易的事。為了解決這個問題，Datadog公司推出了LLM可觀察性(LLM Observability)解決方案，旨在幫助AI應用開發者和機器學習工程師更有效地監控、改進和保護LLM應用。

LLM可觀察性解決方案的推出，標誌著生成式AI應用的監控和管理進入了一個新的階段。這個解決方案提供了一系列強大的功能，使得企業能夠更快速、更可靠地將生成式AI應用部署到生產環境中。

首先，LLM可觀察性解決方案提供了對LLM鏈每個步驟的可視化。這意味著開發者可以輕鬆識別錯誤和意外回應（如幻覺）的根本原因。在複雜的LLM應用中，這種深入的洞察力是非常寶貴的，可以幫助開發者快速定位和解決問題。

其次，該解決方案還提供了對延遲和令牌使用等運營指標的監控功能。這使得開發者可以優化應用的性能和成本，這在當前競爭激烈的市場環境中是至關重要的。

此外，LLM可觀察性解決方案還提供了評估AI應用質量的功能，如主題相關性或毒性評估。這些功能可以幫助開發者深入了解其應用的表現，並及時發現和緩解潛在的安全和隱私風險。

與傳統工具和單點解決方案相比，Datadog的LLM可觀察性解決方案具有多項優勢。它提供了提示和回應聚類、與Datadog應用性能監控(APM)的無縫集成，以及現成的評估和敏感數據掃描功能。這些特性共同作用，不僅可以提高生成式AI應用的性能、準確性和安全性，還有助於保護數據的隱私和安全。

從實際應用案例來看，已經有多家公司開始使用並受益於這個解決方案。例如，WHOOP公司利用LLM可觀察性來評估模型變更的性能，監控生產性能，並提高Coach互動的質量。AppFolio公司則利用這個解決方案來理解、調試和評估其GenAI應用的使用和性能，以解決實際問題，包括監控回應質量以防止負面互動和性能下降。

LLM可觀察性解決方案的推出，為組織提供了多方面的幫助。它可以評估推理質量，幫助組織監控幻覺、偏差，以及應用終端用戶的整體體驗。它還可以快速識別LLM鏈中錯誤和失敗的根本原因，提高問題解決的效率。此外，它還可以有效監控各主要平台上應用的關鍵運營指標，發現性能和成本優化的機會。在安全方面，該解決方案還可以保護應用免受提示式攻擊，並幫助防止敏感數據洩露。

總的來說，Datadog的LLM可觀察性解決方案為生成式AI應用的部署和管理提供了一個全面而強大的工具。隨著越來越多的組織開始採用LLM技術，這樣的解決方案將在確保AI應用的可靠性、安全性和效率方面發揮越來越重要的作用。它不僅可以幫助組織克服部署和擴展AI應用的挑戰，還可以為終端用戶提供更好的體驗。在未來，我們可以期待看到更多類似的創新解決方案，進一步推動AI技術在各行各業的應用和發展。

詳情請看：

Datadog LLM Observability secures generative AI applications

Read More

The hacker news：如何使用 Python 建立安全的區塊鏈應用程式

隨著區塊鏈技術的快速發展,如何簡化開發流程並吸引更多開發者加入已成為行業關注的焦點。這篇文章介紹了一個突破性的解決方案 - 使用Python語言來開發區塊鏈應用,這無疑為區塊鏈開發開闢了一條新的道路。

首先,文章闡述了開發區塊鏈應用的價值。區塊鏈不僅僅是去中心化數據庫和點對點交易系統,它能夠為各種應用帶來前所未有的信任、安全和效率。例如,區塊鏈可以保證記錄不被篡改,實現複雜協議的自動化執行,革新資產所有權管理,並為人工智能、身份管理等領域帶來創新解決方案。這些優勢使得區塊鏈應用在多個行業中具有巨大潛力。

其次,文章解釋了為什麼Python是開發區塊鏈應用的理想選擇。Python語言以其簡潔易讀的語法聞名,這使得開發者能夠更容易地編寫、理解和修改複雜的區塊鏈項目代碼。同時,Python強大的生態系統使其能夠與Web開發框架、機器學習庫等其他技術無縫集成,擴展了區塊鏈應用的功能範圍。此外,Python龐大而活躍的開發者社區,以及完善的文檔和工具支持,都為區塊鏈開發提供了良好的基礎。

文章重點介紹了AlgoKit這一全新的開發工具包,它使得開發者能夠使用純Python語言在Algorand區塊鏈上構建去中心化應用(dApps)。AlgoKit提供了一站式的解決方案,從環境設置到項目創建,再到編譯、部署和測試,都能通過簡單的命令完成。這大大降低了區塊鏈開發的門檻,讓更多Python開發者能夠快速進入這個領域。

在開發環境設置方面,文章詳細介紹了安裝AlgoKit、設置本地區塊鏈網絡、創建新項目等步驟。值得注意的是,AlgoKit提供了多種項目模板,包括面向生產環境的模板,這為開發者提供了一個完整的項目結構,涵蓋了測試、CI/CD、部署等各個方面。

在實際開發過程中,文章以一個"Hello World"智能合約為例,展示了如何使用Python編寫區塊鏈應用。通過繼承ARC4Contract類和使用特定的裝飾器,開發者可以輕鬆創建符合Algorand標準的智能合約。AlgoKit還能自動生成客戶端代碼,簡化了與合約的交互過程。

最後,文章強調了快速迭代的重要性。開發者可以專注於編寫核心邏輯和測試,而將編譯、部署等繁瑣工作交給AlgoKit處理。這種開發模式大大提高了效率,使得開發者能夠更快地將創意轉化為實際應用。

總的來說,這篇文章展示了區塊鏈開發正在變得越來越親民化。通過使用熟悉的Python語言和強大的開發工具,開發者可以更容易地進入區塊鏈領域,創造出安全、高效的去中心化應用。這不僅拓寬了區塊鏈技術的應用範圍,也為解決現實世界的問題提供了新的可能性。隨著這種開發方式的普及,我們有理由期待看到更多創新的區塊鏈應用出現,推動整個行業向前發展。

詳情請看：

How to Use Python to Build Secure Blockchain Applications

Read More

The hacker news：對資料進行隱藏人工智慧訓練的秘密

隨著人工智慧技術的快速發展,越來越多的SaaS(軟體即服務)應用程式開始嵌入AI功能。根據Wing的研究顯示,高達99.7%的組織正在使用具有AI功能的應用程式。這些AI驅動的工具確實為企業帶來了諸多便利,從協作溝通到工作管理和決策支援等方面都發揮了重要作用。然而,在這些便利背後卻潛藏著一個被廣泛忽視的風險:這些SaaS工具中的AI功能可能會危及企業的敏感數據和智慧財產權。

研究發現,在最常用的前10大AI應用中,有70%可能會使用用戶的數據來訓練其模型。這種做法不僅僅是簡單的數據學習和儲存,還可能涉及對用戶數據的再訓練、人工審核,甚至與第三方共享。這些潛在的威脅通常被隱藏在冗長的使用條款和隱私政策中,使得企業安全團隊難以掌控實際情況。

當AI應用程式使用企業數據進行訓練時,主要存在四個風險:

1. 智慧財產權和數據洩露:當企業數據被用於訓練AI模型時,可能會無意中洩露專有信息,包括敏感的商業策略、商業機密和機密通信等。

2. 數據利用和利益衝突:AI應用程式可能會利用企業數據來改進自身功能,這可能導致利益衝突。例如,某些CRM系統會利用客戶資料來訓練AI模型,這意味著使用同一平台的競爭對手可能會從中獲益。

3. 第三方共享:為了改進AI性能和推動軟體創新,企業數據可能會被共享給第三方數據處理商,這增加了數據安全風險。

4. 合規性問題:全球各地的數據保護法規不斷變化,當AI應用程式訓練企業數據時,確保合規變得更加複雜。不合規可能導致巨額罰款、法律訴訟和聲譽損害。

面對這些風險,企業需要採取措施來保護自身數據。然而,目前AI平台在數據使用和退出機制方面缺乏一致性和透明度,這給企業帶來了挑戰。不同應用程式的退出選項可能散布在服務條款、隱私政策中,或需要通過電子郵件聯繫公司才能退出。這種不一致性和缺乏透明度使得安全專業人員難以有效控制數據使用。

為了應對這些挑戰,企業可以考慮採用SaaS安全態勢管理(SSPM)解決方案。這類工具可以幫助企業了解不同平台的數據使用政策,提供可用的退出選項警報和指導,簡化流程並確保符合數據管理政策和法規。

總的來說,了解AI如何使用企業數據對於管理風險和確保合規至關重要。同樣重要的是要知道如何選擇退出數據使用,以維護企業的隱私和安全。雖然目前AI平台缺乏標準化的方法,但通過優先考慮可見性、合規性和易於使用的退出選項,企業可以更好地保護自己的數據免受AI訓練模型的影響。

隨著AI技術的不斷發展,企業需要保持警惕,密切關注數據使用政策的變化,並積極採取措施保護自身利益。同時,AI服務提供商也應該提高透明度,為用戶提供更清晰、更易於理解的數據使用和退出機制。只有在企業、服務提供商和監管機構的共同努力下,我們才能在享受AI帶來便利的同時,最大程度地降低潛在風險。

詳情請看：

The Secrets of Hidden AI Training on Your Data

Read More

Cybersecurity insiders：透過人工智慧驅動的超級自動化提升網路安全的災難復原

在當今數位時代,網絡安全面臨的挑戰日益嚴峻。隨著網絡威脅變得越來越複雜和精密,傳統的災難恢復平台和計劃已無法滿足現代網絡攻擊的速度和複雜性。這突顯了創新恢復策略的迫切需求,而人工智能驅動的動態電腦映像技術正代表著數位韌性的重大進步。

傳統的電腦映像技術依賴靜態模板和人工干預,在快速演變的網絡威脅面前顯得力不從心。相比之下,由人工智能和自動化賦能的動態電腦映像技術提供了一個適應性強且穩健的解決方案,確保了更高效、更安全的系統恢復。

傳統災難恢復方法存在諸多不足:首先是反應時間過長,嚴重依賴人工流程,無法在網絡事件後迅速恢復;其次是安全風險增加,難以適應新興的網絡威脅;最後是資源消耗過多,手動監控和更新佔用了大量IT資源,分散了戰略性網絡安全計劃和創新的精力。

人工智能驅動的動態電腦映像技術正在徹底改變網絡事件後的恢復過程。這項技術自動部署系統配置和更新,能夠對網絡威脅做出快速有效的響應。它確保了系統及時恢復到安全狀態,大大縮短了恢復時間,提高了整體網絡安全韌性。

AI增強型動態電腦映像技術在災難恢復中具有多項關鍵優勢:加速恢復和部署,確保網絡攻擊後的停機時間最小化;保持一致的安全性和合規性,自動化映像系統在所有系統中維持最新的安全狀態;提高資源管理效率,使IT團隊能夠將精力集中在戰略性安全規劃和創新解決方案上。

要將AI驅動的動態映像技術整合到災難恢復計劃中,需要考慮以下幾個方面:持續更新和適應性,不斷完善映像協議以跟上不斷演變的安全補丁和監管要求;與安全基礎設施的協調,確保動態映像與其他網絡安全機制無縫集成,形成全面的防禦體系;促進安全意識,培養一種理解和重視AI驅動映像技術在維護安全IT環境中作用的文化。

採用AI增強型動態電腦映像技術對當今的CTO和CIO來說是一項戰略性的必要舉措。這種方法代表了一種更靈活、高效和安全的IT基礎設施管理方式,對於從網絡攻擊中快速恢復至關重要。面對IT安全範式向更主動、更智能的解決方案轉變,AI驅動的動態映像技術成為加強數字防禦和確保在日益複雜的網絡威脅中持續運營功能的關鍵要素。

總的來說,AI驅動的動態電腦映像技術為網絡安全災難恢復帶來了革命性的變革。它不僅提高了恢復速度和效率,還增強了整體安全態勢。隨著網絡威脅的不斷演變,這種技術將在維護組織的數字韌性中發揮越來越重要的作用。未來,我們可以預見AI和自動化在網絡安全領域的應用將更加廣泛和深入,為組織提供更強大的保護。然而,技術本身並非萬能的,組織還需要培養全面的安全文化,持續投資於人員培訓和流程優化,才能真正實現全方位的網絡安全防護。

詳情請看：

Elevating Disaster Recovery in Cybersecurity With AI-Driven Hyperautomation

Read More

Cybersecurity insiders：可滲透物聯網攻擊面的 12 個常見問題

隨著物聯網(IoT)技術的快速發展和廣泛應用，其所帶來的安全挑戰日益凸顯。從智能家居設備到工業傳感器，物聯網已深入滲透到我們日常生活的方方面面。然而，這種創新生態系統的擴張也伴隨著攻擊面的擴大，使得整個網絡環境變得更加脆弱，面臨著諸如跨站腳本攻擊(XSS)和數據洩露等威脅。

文章列舉了12個常見的物聯網安全隱患，深入剖析了當前物聯網安全面臨的主要挑戰。首先，有限的支持和更新是一個突出問題。許多物聯網設備一旦部署，軟件更新就變得稀少，甚至在生命周期結束後完全停止，這使得設備長期暴露於各種漏洞之中。其次，標準化的缺失導致不同廠商生產的設備存在安全措施的不一致性，增加了整體防護的難度。

數據隱私問題也是一個不容忽視的挑戰。物聯網技術的發展速度往往超過了相關隱私法規的制定速度，導致服務提供商和製造商難以及時跟進，使得敏感數據的發現和保護變得困難。網絡安全風險同樣值得關注，任何一個物聯網設備的妥協都可能威脅到整個網絡的安全。

供應鏈漏洞、與舊系統的集成、物理安全風險等問題也為物聯網安全帶來了巨大挑戰。特別是物理安全風險，由於許多物聯網設備直接與現實世界互動（如智能鎖），安全漏洞可能導致直接的物理後果，這大大提高了安全事件的嚴重性。

消費者意識和教育的缺失也是一個重要問題。許多終端用戶並不完全了解物聯網設備的複雜性及其安全隱患，導致他們忽視了諸如密碼衛生和安全設置等重要問題。此外，物聯網設備種類繁多、數量龐大，使得威脅評估和優先級排序變得極為困難，IT專業人員常常感到無所適從。

在性能和安全之間取得平衡也是一個棘手的問題。物聯網設備通常設計為具有有限的處理能力、內存和電池壽命，以降低成本和能耗。實施強大的安全措施可能會消耗額外的計算資源，從而影響設備的性能和功能。

零日漏洞和不安全的通信協議則進一步加劇了物聯網的安全風險。未知的漏洞可能在修補程序可用之前被利用，而缺乏強加密的通信協議則使得數據傳輸過程中容易受到攻擊和篡改。

面對這些挑戰，文章提出了採用DevSecOps方法來應對。這種方法將安全性融入開發過程的每個階段，而不是將其作為事後考慮。通過自動化安全測試、持續監控、補丁管理等流程，可以確保安全考慮貫穿整個開發和運營生命周期。

總的來說，隨著物聯網的快速發展和廣泛應用，其安全問題變得日益突出。我們需要從技術、管理和教育等多個層面來應對這些挑戰。製造商應該加強設備的安全設計，提供及時的更新和支持；政府和行業組織應該制定統一的安全標準和規範；而用戶則需要提高安全意識，養成良好的使用習慣。只有各方共同努力，才能構建一個更安全、更可靠的物聯網生態系統。

詳情請看：

12 Common Concerns of the Permeable IoT Attack Surface

Read More