黑客新伙伴：AI武器化協助網絡攻擊！ HKCERT揭示六大 AI 新興攻擊方法

發佈日期: 2025年09月17日 14807 觀看次數

人工智能（AI）技術近年突飛猛進，大型語言模型（LLM）及生成式模型已廣泛應用於編程、寫作、推理、圖像與影片生成。與此同時，香港網絡安全事故協調中心（HKCERT）警告，黑客亦正將 AI 武器化，應用於各種網絡攻擊，令防禦難度急速上升。最新分析揭示六大 AI 協助攻擊手法，呼籲企業與市民提高警覺。

代理式AI所帶來的最新風險

近期「代理式 AI」（Agentic AI）的興起，使 AI 擺脫了僅作為聊天機械人的形象，能直接操作電腦系統，成為更強大的工具。以往需要團隊協作的複雜攻擊，如今一名黑客即可指揮多個代理式 AI 執行。

根據AI公司 Anthropic 於 2025 年 8 月發佈的威脅情報報告，代理式 AI 已從單純提供建議，演變為可直接執行攻擊的參與者。研究員將這種新型攻擊命名為「Vibe-hacking」，並指出某網絡犯罪集團曾利用其服務，對十多個組織發動滲透攻擊及資料勒索。該集團透過 AI 完成從網絡偵察、滲透、開發勒索軟件、竊取文件、分析內容到撰寫勒索信的全流程。這種攻擊的誕生，意味著黑客網絡攻擊的門檻進一步降低，預料機構在未來將會受到更加頻繁，由黑客指揮AI的高技術攻擊。

此外，自代理式 AI 興起後，各大廠商亦開始在瀏覽器中加入此功能，用戶可透過聊天介面直接下達指令，如預訂某餐廳或購買日用品等，AI瀏覽器便會進行網絡搜尋，並根據結果判斷及執行購買等操作。

但早前人工智能公司 Perplexity 所開發的代理式 AI 瀏覽器 Comet，被發現可透過在網頁中加入用戶不可見的隱藏文字作為指令，間接向 AI 注入命令。在用戶不知情的情況下，AI 可能執行額外操作，例如打開電子郵箱接收驗證碼，再將其上傳至其他網站。由於代理式 AI 的操作被視為與用戶等同，傳統的跨站攻擊防護機制無法阻擋，所以用戶的個人資料，有機會在AI瀏覽器執行了惡意網站的指令時，已被無聲無息地洩漏。

HKCERT建議：機構及用戶都需繼續保持警揚，提升保安意識應對更複雜攻擊。而代理式 AI 在應用層面仍需加入更多安全機制，以防止其執行超出用戶授權的行為。然而，由於具備自主代理功能的 AI 瀏覽器仍屬發展中技術，HKCERT 建議用戶使用AI 瀏覽器處理敏感資料或交易時，可檢視其操作步驟，或避免將電郵、個人資料或信用卡資料連結至瀏覽器。

Comet正在執行網頁上被反白隱藏了的指令 (提供：Brave)

AI破解驗證碼

登入網站除了輸入帳號和密碼，常被要求輸入圖形驗證碼，以區分真人用戶與自動化程式。驗證碼可能是扭曲的英數字，或是在多張圖片中選出特定類別的圖像。

過去，黑客需要自行編寫演算法破解，執行成本較高；如今，有了具備圖像分析功能的 AI，破解驗證碼變得更加容易。我們發現只需將驗證碼圖片上傳至 AI 系統並詢問答案，AI 便能迅速且準確地回覆。這意味著黑客可以透過撰寫AI程式，讓其協助繞過傳統驗證碼，快速進行下一步攻擊，令驗證碼保護網站的功能如同虛設。

HKCERT建議：對於仍採用傳統驗證碼的網站，建議系統管理員考慮升級至互動式驗證碼或行為檢測式驗證以提升安全性，減少被自動化攻擊入侵的風險。

AI 能準確地回覆驗證碼

使用互動式驗證碼減少被自動化攻擊入侵的風險

AI網頁分析及攻擊輔助

黑客常會在網上尋找各類登入頁面並嘗試暴力破解，以取得帳號密碼進行滲透攻擊。有了 AI 協助後，從定位登入頁面到暴力攻擊流程，部分工作可交由 AI 處理。

在同時運行多個 AI 程式時，甚至能同時掃描數十至數百個網站。這並非遙不可及的未來——早前已有資安研究員開發並公開了可利用 AI 協助滲透攻擊的工具，相信黑客很快會跟進並開發更高效的攻擊工具，與AI破解驗證碼相類近，這揭露了傳統的網站保安在 AI 時代將會受到更大防禦考驗。

HKCERT建議：網站管理員加強安全檢查，嚴格執行安全密碼政策（如多重認證），並定期檢視系統日誌，分析可疑活動，及早修補漏洞，防止被黑客利用。

AI 時代的分散式阻斷服務攻擊(DDoS)的攻防

在AI時代以前，DDoS主要是以壓倒性的網絡流量為主流的暴力攻擊，令到目標方的服務無法再接受請求，而癱瘓目標網絡。應對手法也非常直接，利用防火牆或雲端廠商的防DDoS方案將攻擊流量導向至網絡黑洞。但在AI時代，黑客開發出AI攻擊工具，例如上文中提到：以AI作網站驗證碼破解和自動輔助掃描及攻擊網頁。代理式AI更可即時監控攻擊，然後自動因應流量限制等防守策略而轉換攻擊其它弱點，也能扮演人類使用者的操作行為來騙過傳統防禦策略，意味著傳統防禦方式可能不敷應用。

未來的DDoS除了流量外，更講求準確和靈活，目標是用最少的流量達至最大破壞。而網絡安全開發者深知以子之矛，攻子之盾的道理。會利用流量數據和以往攻擊的知識及威脅情報訓練AI模型，分析實時網絡流量，同時對攻擊作出回應，自動調整防守策略。更重要是AI模型能夠持續收集網絡流量作為微調模型時的參考，令系統在長時間運行下變得更加精準。

HKCERT建議：在AI時代，DDoS攻撃將會變得更為即時和複雜，網絡管理者應適時學習目前網絡攻擊的最新趨勢，定時更新威脅情報，並考慮引入帶有AI功能的網絡防護系統，以面對未來以AI為主導的新型攻擊。

AI驅動的勒索軟件

近期，某大學學術研究團隊成功編寫了一個AI勒索軟件的雛型，被命名為PromptLock。這研究意味著將來黑客或不再需要針對不同平台分別撰寫勒索軟件，而是透過受感染裝置即時連接至大型語言模型，利用預設提示詞（Prompt）即場生成攻擊程式碼並執行。

該研究證明AI 勒索軟件的運作方式可不再侷限於執行預先編寫的程式碼，而是能根據不同機構的系統架構、網絡環境及保安防護程度等特性，自動進行客製化，以最大化其破壞力，令防禦難度和受影響程度大增。

HKCERT建議：市民切勿隨意下載或執行來源不明的檔案或程式，及應安裝防毒軟件或網絡安全應用程式並定期更新。

AI製作的釣魚網站

AI 網頁開發技術日益成熟，用戶只需提供適當提示詞，便能生成美觀且功能正常的網站。對釣魚詐騙的黑客而言，這大大降低了製作門檻——他們可利用 AI 工具複製正規網站頁面，稍作修改後便能製作出高度仿真的釣魚網站。更甚者，部分商業化 AI 開發工具還能直接將網站發佈至互聯網，極大縮短了從製作到上線的時間。可以預計釣魚詐騙的攻擊將會持續增加，而且更難單靠網頁內容來斷定真偽，市民一不留神就會墮入騙網。

HKCERT建議：市民瀏覽網站時務必檢查網址真偽，若有疑慮，切勿向可疑網站輸入任何個人或敏感資料。

AI生成的假冒速遞公司網頁 (提供： Proofpoint)

總結：

AI 技術的進步雖為社會帶來便利，但同時為網絡犯罪提供了新工具。從破解驗證碼到自動化滲透攻擊，甚至全流程代理式 AI 攻擊，威脅正不斷演化，單以人力難以應付AI時代下瞬息萬變的複雜攻擊，人力加上AI輔助將會是未來抵抗黑客的新趨勢。HKCERT亦已經引入AI工具協助進行釣魚網站探測，於2025年8月份，HKCERT利用AI 進行了35億次的掃描，共發現了多個可疑網站。由此可見，企業與用戶必須同步提升防禦意識與技術，才能有效應對AI武器化後的威脅。