[NOWnews今日新聞] AI運用範圍愈來愈廣泛,在資安領域也引發一場大革命,不僅可以協助企業組織擊敗網路攻擊,還能解決資安人才短缺問題。根據微軟研究報告指出,微軟與OpenAI合作揭露有關國家型攻擊者的手法與路徑,包含俄羅斯、中國、北韓等國家利用大型語言模型進行網路攻擊,並紀錄微軟如何阻止他們活動,保護AI平台和用戶。而生成式AI則可以高速幫助資安防禦者保護其組織,讓AI不僅是工具,也是資安領域典範轉移。
根據微軟發布的第六期《Cyber Signals》研究報告,微軟與OpenAI、MITRE合作,揭示國家型攻擊者如何運用AI提升效率,進行身分詐欺,像是俄羅斯的Forest Blizzard、北韓Emerald Sleet、伊朗Crimson Sandstorm、中國Charcoal Typhoon以及Salmon Typhoon等攻擊者,如何利用用大型語言模型(LLMs)來增強正在進行的網路攻擊行動。並針對這些攻擊者紀錄如何阻止其活動,識別惡意威脅者行動,達到保護AI平台和用戶,同時會通知其他AI服務供應商,提高使用透明度,降低其帶來的風險。
此外,AI引發的詐欺事件頻傳,語音合成技術的濫用便是一個例子,只要3秒的語音樣本就可以訓練模型,使其聽起來像是任何人。因此了解惡意使用者如何利用AI,破壞長期存在的身分驗證系統,便是重要議題。
微軟表示,AI可以有效協助企業阻止詐欺,應對複雜的詐欺案件或其他掩蓋身分的新興威脅。並舉例提到,過去曾停止與巴西一家公司合作,透過AI系統偵測到該公司試圖改變身份重新進入微軟的生態系統,微軟AI偵測便使用了10多個風險訊號標記詐欺公司,並成功阻止其非法嘗試。
同時,微軟建議,企業組織應加強員工網路風險教育,像是條件式存取原則,進行社交工程教育訓練以識別威脅時,能即時做出反應,啟用多重身份驗證,嚴格保護資料的機器與可控性,利用生成式AI資安工具防止網路威脅。另針對網路威脅,企業組織可以採取限制AI存取範圍,持續評估應用的合適度與合規性,防範指令提示造成的風險,實施嚴格的輸入驗證和清理,並要求整合AI供應鏈保持透明度,明確與員工溝通企業AI使用和風險政策。
微軟表示,生成式AI可以高速幫助組織解決資安問題,透過分析大量數據揭露網路攻擊威脅的模式與趨勢,即時偵測異常,快速回應以阻絕風險。並提到AI有助於解決全球400萬名資安專業人才缺口,提高企業防禦速度與效率。