在網路安全領域，技術的演進總是伴隨著攻防的持續博弈。近年來，人工智慧（AI）的飛速發展不僅在各行各業掀起革命，更為網路攻擊者打開了一扇新的大門。Google 的威脅情報小組（GTIG）近日發布的警告，為我們揭示了一個令人憂慮的新趨勢：惡意行為者正積極利用生成式 AI，特別是大型語言模型（LLMs），來部署和演進新型態的惡意軟體家族。這種被稱為「即時」自我修改（just-in-time self-modification）的技術，使得惡意軟體能夠在執行過程中動態地改變自身，達到傳統惡意軟體難以企及的靈活性和難以偵測性。

AI 賦能的變異式惡意軟體：PromptFlux 與 PromptSteal 雙雄

Google 在報告中重點提到了兩個利用 AI 技術的惡意軟體案例：PromptFlux 和 PromptSteal。PromptFlux 是一個實驗性的 VBScript 植入程式（dropper），其最新版本利用 Google 的 Gemini LLM 來生成混淆過的 VBScript 變體。這種惡意軟體企圖透過啟動資料夾（Startup folder）條目來維持其持久性，並能透過可移動磁碟和已連線的網路共用來進行橫向擴散。最引人注目的部分是 PromptFlux 的「Thinking Robot」模組，它能夠定時查詢 Gemini，以獲取用於規避防毒軟體的全新程式碼。Google 研究人員指出，這些提示（prompts）經過精心設計，具有機器可讀性，顯示出惡意軟體的創建者正試圖打造一個不斷演進的「變異式腳本」（metamorphic script）。

PromptFlux 雖然仍處於早期開發階段，未能對目標造成實際損害，但 Google 已採取行動禁用其對 Gemini API 的存取，並刪除了所有相關資產。另一款被 Google 發現並投入使用的 AI 驅動惡意軟體是 FruitShell，這是一個 PowerShell 反向 Shell，用於建立遠端命令與控制（C2）存取，並在受感染的主機上執行任意命令。研究人員表示，FruitShell 是公開可用的，且包含硬編碼的提示，旨在繞過 LLM 驅動的安全分析。

PromptSteal 則是一個數據採礦器（data miner），被發現在烏克蘭地區部署，用於動態生成腳本、程式碼混淆以及建立按需函數。它與 PromptFlux 類似，也利用了 LLM 的能力來增強其惡意行為。Google 同時還點名了 QuietVault，一個針對 GitHub/NPM 令牌的 JavaScript 憑證竊取程式，它會將竊取的憑證外洩到動態建立的公開 GitHub 儲存庫中。QuietVault 甚至能利用主機上的 AI CLI 工具和提示來搜尋額外的敏感資訊並進行外洩。在 AI 驅動的惡意軟體列表中，還有 PromptLock，這是一款實驗性的勒索軟體，它依賴 Lua 腳本來竊取並加密 Windows、macOS 和 Linux 機器上的數據。

AI 成為攻擊生命週期的關鍵工具：從漏洞發現到數據外洩

不僅僅是惡意軟體本身，Google 的報告還揭示了攻擊者如何將 Gemini 等 LLM 廣泛應用於攻擊生命週期的各個階段。報告中列舉了多個案例：

• 中國駭客組織： 一個與中國有關聯的攻擊者冒充 Capture-The-Flag（CTF）競賽的參與者，成功繞過 Gemini 的安全篩檢程式，獲取漏洞細節，並利用該模型尋找漏洞、 craft 釣魚誘餌以及構建數據外洩工具。
• 伊朗駭客組織 MuddyCoast (UNC3313)： 他們假扮成學生，利用 Gemini 進行惡意軟體開發和除錯，卻意外暴露了 C2 網域和金鑰。
• 伊朗駭客組織 APT42： 該組織則利用 Gemini 進行網路釣魚和數據分析，生成誘餌、翻譯內容，並開發了一個「數據處理代理」，能將自然語言轉換為 SQL，用於個人數據挖掘。
• 中國駭客組織 APT41： 他們利用 Gemini 進行程式碼輔助，增強了其 OSSTUN C2 框架，並利用混淆函式庫來提高惡意軟體的複雜性。
• 北韓駭客組織 Masan (UNC1069)： 該組織利用 Gemini 進行加密貨幣盜竊、多語言網路釣魚以及創建深度偽造誘餌。
• 北韓駭客組織 Pukchong (UNC4899)： 他們則使用 Gemini 開發針對邊緣裝置和瀏覽器的程式碼。

在所有 Google 識別出的案例中，該公司都採取了禁用相關帳戶並強化模型安全防護措施的行動，以增加其被濫用的難度。這凸顯了 AI 在網路攻擊中的多功能性，從最初的情報收集、漏洞分析，到後期的惡意軟體開發、執行和數據傳輸，AI 幾乎滲透了攻擊鏈的每一個環節。

地下論壇的 AI 犯罪工具：降低攻擊門檻，擴大威脅規模

Google 的研究人員還發現，在地下市場上，無論是英語還是俄語的論壇，對惡意 AI 工具和服務的興趣正在不斷增長。這類工具的出現，顯著降低了部署複雜攻擊的技術門檻，使得更多原本技術能力有限的犯罪分子能夠參與到網路犯罪活動中。Google 指出，許多地下論壇的廣告內容與合法 AI 模型的傳統行銷語言非常相似，強調提高工作流程和工作的效率，同時為潛在客戶提供指導。這些服務的範圍從生成深度偽造和圖像的工具，到惡意軟體開發、網路釣魚、研究偵察和漏洞利用等，可以說是應有盡有。

隨著 AI 驅動的網路犯罪市場日趨成熟，傳統的惡意攻擊工具正逐漸被取代。Google 威脅情報小組（GTIG）發現，許多攻擊者正在廣告推銷能夠涵蓋攻擊階段的多功能工具。AI 驅動服務的推廣勢頭十分兇猛，許多開發者會在免費版本中提供新功能，並以更高的價格提供 API 和 Discord 存取權限。

應對 AI 驅動的網路威脅：責任與防禦並重

面對如此嚴峻的挑戰，Google 強調，AI 開發者在推動 AI 發展的同時，必須同時採取「大膽且負責任」的做法。AI 系統的設計應包含「強大的安全護欄」，以防止濫用、遏制濫用行為並擾亂敵對行動。Google 表示，公司會調查其服務和產品的任何濫用跡象，包括與政府支持的威脅行為者相關的活動。除了在適當時與執法部門合作外，Google 也正利用與對抗敵對行動的經驗，來「改進其 AI 模型的安全性和防護性」。

這意味著，我們不僅需要開發更先進的 AI 安全技術來抵禦 AI 驅動的攻擊，還需要 AI 模型提供者和使用者共同承擔責任。對於企業和個人而言，這是一個持續學習和適應的過程。保持對最新威脅情報的關注，及時更新系統和防護軟體，並對可疑的活動保持警惕，是每個使用者都需要採取的關鍵步驟。

立即行動，與 AI 時代的網路安全挑戰接軌

AI 技術的崛起為網路安全帶來了前所未有的挑戰，但也提供了前所未有的機遇。了解這些新興威脅，並積極尋求最新的資訊和解決方案，是應對未來網路攻擊的關鍵。無論您是創業者、技術愛好者，或是對 AI 和網路安全感興趣的任何人，都應該掌握最新的產業動態，以便更好地保護自己和您的業務。

立即加入🚀🔥Mentalok 慢得樂 Vibe-Coding & Tech Startup創業課程官方頻道，取得更多即時AI，創業及Funding資訊。