人工智慧 (Artificial Intelligence, AI) 快速的進步與整合到我們日常的數位生活中，同時伴隨著興奮與不安。AI承諾將徹底改變各個產業並提高效率，但也帶來了一系列新的挑戰，特別是網路犯罪分子對其的利用。軟體技術研究公司 Check Point 最近發布的一份 AI 安全報告揭示了這種日益嚴重的威脅，發現駭客越來越多地利用 AI 工具來擴大其惡意活動的規模、效率和影響。
Check Point 的報告是同類報告中的第一份，它強調隨著技術的不斷發展，迫切需要健全的 AI 安全措施。該報告強調，AI 威脅不再是假設情境，而是在即時演變。隨著 AI 工具變得更容易取得，威脅者正在以兩種主要方式利用這種可近性：透過 AI 增強他們的能力，以及針對採用 AI 技術的組織和個人。
語言模型對網路罪犯的誘惑
網路罪犯正勤奮地監控 AI 採用的趨勢。每當向公眾發布新的大型語言模型 (large language model, LLM) 時，這些惡意行為者都會迅速探索其潛在的邪惡目的。ChatGPT 和 OpenAI 的 API 目前是這些罪犯最喜歡的工具，但 Google Gemini、Microsoft Copilot 和 Anthropic Claude 等其他模型也正穩定地獲得吸引力。
這些語言模型的誘人之處在於它們能夠自動化和擴展網路犯罪的各個方面，從製作具說服力的網路釣魚電子郵件到生成惡意程式碼。該報告強調了一個令人擔憂的趨勢：專門針對網路犯罪量身定制的惡意 LLM 的開發和交易，通常被稱為「黑暗模型」。
暗黑 AI 模型的崛起
由於使用限制最少且可免費訪問，DeepSeek 和阿里巴巴的 Qwen 等開源模型正變得越來越吸引網路罪犯。這些模型為惡意實驗和改編提供了肥沃的土壤。然而，該報告揭示了一個更令人震驚的趨勢：專門針對網路犯罪量身定制的惡意 LLM 的開發和交易。這些「黑暗模型」旨在繞過道德保障，並公開作為駭客工具進行銷售。
一個臭名昭著的例子是 WormGPT，這是一個透過破解 ChatGPT 而創建的模型。WormGPT 被譽為「終極駭客 AI」，可以生成網路釣魚電子郵件、編寫惡意軟體和製作社群工程腳本，而沒有任何道德過濾器。它甚至得到了提供訂閱和教學課程的 Telegram 頻道的支持，清楚地表明了黑暗 AI 的商業化。
其他黑暗模型包括 GhostGPT、FraudGPT 和 HackerGPT，每種模型都專為網路犯罪的特定方面而設計。有些只是主流工具周圍的越獄包裝器，而另一些則是開源模型的修改版本。這些模型通常在地下論壇和暗網市場上出售或出租，使廣泛的網路罪犯可以訪問它們。
偽造的 AI 平台和惡意軟體傳播
對 AI 工具的需求也導致了偽造的 AI 平台激增，這些平台偽裝成合法的服務，但實際上是惡意軟體、資料竊取和金融詐騙的載具。HackerGPT Lite 就是這樣一個例子，它被懷疑是一個網路釣魚網站。同樣，據報導，一些提供 DeepSeek 下載的網站正在傳播惡意軟體。
這些偽造的平台通常以先進的 AI 功能或獨家功能為誘餌來吸引毫無戒心的使用者。一旦使用者與該平台互動，他們可能會被誘騙下載惡意軟體或提供敏感資訊，例如登入憑證或財務詳細資訊。
AI 驅動的網路攻擊的真實案例
Check Point 的報告重點介紹了一個真實案例，該案例涉及一個冒充 ChatGPT 的惡意 Chrome 擴充功能，該擴充功能被發現竊取使用者憑證。安裝後，它會劫持 Facebook 會話 Cookie，使攻擊者可以完全訪問使用者帳戶 — 這是一種可以輕易地在多個平台上擴展的策略。
此事件突顯了與看似無害的瀏覽器擴充功能相關的風險以及 AI 驅動的社群工程攻擊的潛力。網路罪犯可以使用 AI 來建立具說服力的偽造網站或應用程式，這些網站或應用程式模仿合法的服務，使使用者難以區分真實事物和惡意冒名者。
AI 對網路犯罪規模的影響
Check Point 報告補充說：「這些 AI 驅動工具的主要貢獻在於它們擴大犯罪活動規模的能力。」「AI 生成的文字使網路罪犯能夠克服語言和文化障礙，從而顯著提高他們執行複雜的即時和離線通訊攻擊的能力。」
AI 使網路罪犯能夠自動執行以前耗時且勞力密集的任務。例如，AI 可用於在幾分鐘內生成數千封個性化的網路釣魚電子郵件，從而增加了有人成為詐騙受害者的可能性。
此外，AI 可用於提高網路釣魚電子郵件和其他社群工程攻擊的品質。透過分析使用者資料並根據個人收件人量身定制訊息，網路罪犯可以建立高度令人信服的詐騙，這些詐騙難以檢測。
肯亞的威脅態勢
肯亞當局也對 AI 驅動的網路攻擊的增加發出了警報。2024 年 10 月，肯亞通訊管理局 (Communications Authority of Kenya, CA) 警告說，即使截至 9 月份的季度總體威脅下降了 41.9%，AI 驅動的網路攻擊也在增加。
CA 總幹事 David Mugonyi 說：「網路罪犯越來越多地使用 AI 驅動的攻擊來提高其運營的效率和規模。」「他們利用 AI 和機器學習來自動創建網路釣魚電子郵件和其他類型的社群工程。」
他還指出，攻擊者越來越多地利用系統錯誤配置 — 例如開放埠和弱訪問控制 — 來獲得未經授權的訪問權限、竊取敏感資料和部署惡意軟體。
肯亞並非唯一面臨這種威脅的國家。世界各國都在努力應對 AI 驅動的網路犯罪的挑戰。
AI 工具的可訪問性和網路攻擊日益複雜，使得組織和個人更難保護自己。
保護 AI 的軍備競賽
隨著擁抱 AI 的競賽加速，保護它的軍備競賽也在加速。對於組織和使用者而言，保持警惕不再是可選項 — 而是必要的。
為了降低 AI 驅動的網路犯罪的風險，組織需要採用多層安全方法，包括：
- AI 驅動的威脅檢測： 實施基於 AI 的安全解決方案，這些解決方案可以即時檢測和回應 AI 驅動的攻擊。
- 員工培訓： 教育員工了解 AI 驅動的社群工程攻擊的風險，並向他們提供識別和避免這些詐騙的技能。
- 強大的訪問控制： 實施強大的訪問控制，以防止未經授權訪問敏感資料和系統。
- 定期安全審計： 進行定期安全審計，以識別和解決系統和基礎設施中的漏洞。
- 協作和資訊共享： 與其他組織和安全供應商共享威脅情報，以改善對 AI 驅動的網路犯罪的集體防禦。
- 道德 AI 開發和部署： 確保 AI 系統以合乎道德和負責任的方式開發和部署，並採取保障措施以防止濫用。
個人還可以採取措施保護自己免受 AI 驅動的網路犯罪的侵害，包括：
- 對未經請求的電子郵件和訊息保持警惕： 在打開來自未知發件人的電子郵件和訊息時要小心，尤其是那些包含連結或附件的電子郵件和訊息。
- 驗證網站和應用程式的真實性： 在提供任何個人資訊之前，確保網站和應用程式是合法的。
- 使用強密碼並啟用多因素身份驗證： 使用強大而獨特的密碼保護帳戶，並在可能的情況下啟用多因素身份驗證。
- 保持軟體最新： 定期更新軟體和操作系統以修補安全漏洞。
- 報告可疑詐騙： 向有關當局報告可疑詐騙。
打擊 AI 驅動的網路犯罪是一場持久戰。透過隨時了解情況、採取強有力的安全措施並共同努力，組織和個人可以降低成為這些不斷演變的威脅的受害者的風險。