人工知能 (AI) の急速な進歩と、私たちのデジタル生活への統合は、興奮と不安の両方を伴っています。AI は産業に革命をもたらし、効率を向上させると期待される一方で、特にサイバー犯罪者による悪用に関して、新たな一連の課題も提示しています。ソフトウェア技術の研究企業である Check Point による最近の AI セキュリティレポートは、この増大する脅威に光を当て、ハッカーが AI ツールをますます活用して、悪意のある活動の規模、効率、影響を増幅させていることを明らかにしています。
Check Point のレポートは、この種のものとしては初めてのものであり、テクノロジーが進化し続けるにつれて、堅牢な AI 保護対策が緊急に必要であることを強調しています。このレポートは、AI の脅威はもはや仮想的なシナリオではなく、リアルタイムで積極的に進化していることを強調しています。AI ツールがより手軽に利用できるようになるにつれて、脅威アクターは AI を通じて機能を強化し、AI テクノロジーを採用する組織や個人をターゲットにするという 2 つの主な方法で、このアクセスしやすさを悪用しています。
サイバー犯罪者にとっての言語モデルの魅力
サイバー犯罪者は、AI の導入におけるトレンドを熱心に監視しています。新しい大規模言語モデル (LLM) が一般公開されるたびに、これらの悪意のあるアクターは、悪意のある目的でのその潜在力をすぐに調査します。ChatGPT と OpenAI の API は現在、これらの犯罪者の間で好まれているツールですが、Google Gemini、Microsoft Copilot、Anthropic Claude などの他のモデルも着実に普及しています。
これらの言語モデルの魅力は、説得力のあるフィッシングメールの作成から悪意のあるコードの生成まで、サイバー犯罪のさまざまな側面を自動化および規模拡張できることにあります。このレポートは、憂慮すべき傾向を強調しています。それは、サイバー犯罪専用に調整された特殊な悪意のある LLM の開発と取引であり、通常「ダークモデル」と呼ばれています。
ダークAIモデルの台頭
DeepSeek や Alibaba の Qwen などのオープンソースモデルは、使用制限が最小限で、無料のアクセス層が利用できるため、サイバー犯罪者にとってますます魅力的になっています。これらのモデルは、悪意のある実験と適応のための肥沃な基盤を提供します。しかし、このレポートは、より驚くべき傾向を明らかにしています。それは、サイバー犯罪専用に調整された特殊な悪意のある LLM の開発と取引です。これらの「ダークモデル」は、倫理的な保護措置を回避するように設計されており、ハッキングツールとして公然と販売されています。
悪名高い例の 1 つは、ChatGPT を脱獄して作成されたモデルである WormGPT です。「究極のハッキング AI」としてブランド化された WormGPT は、倫理フィルターなしで、フィッシングメールを生成し、マルウェアを作成し、ソーシャルエンジニアリングスクリプトを作成できます。サブスクリプションとチュートリアルを提供する Telegram チャネルによってもバックアップされており、ダーク AI の商業化を明確に示しています。
他のダークモデルには、GhostGPT、FraudGPT、HackerGPT があり、それぞれがサイバー犯罪の特殊な側面向けに設計されています。一部は、メインストリームツールを囲む単なる脱獄ラッパーですが、他のツールはオープンソースモデルの変更版です。これらのモデルは通常、地下フォーラムやダークウェブマーケットプレイスで販売またはレンタルされており、幅広いサイバー犯罪者がアクセスできるようになっています。
偽のAIプラットフォームとマルウェア配布
AIツールの需要は、正当なサービスを装いながら、実際にはマルウェア、データ盗難、金融詐欺の手段である偽のAIプラットフォームの拡散にもつながっています。そのような例の1つは、フィッシングサイトである疑いのあるHackerGPT Liteです。同様に、DeepSeekのダウンロードを提供する一部のWebサイトは、マルウェアを配布していると報告されています。
これらの偽のプラットフォームは、高度な AI 機能や限定機能の約束で、警戒心の薄いユーザーを誘惑することがよくあります。ユーザーがプラットフォームに関与すると、悪意のあるソフトウェアをダウンロードしたり、ログイン資格情報や財務詳細などの機密情報を提供したりするようにだまされる可能性があります。
AIを活用したサイバー攻撃の実際の事例
Check Point のレポートでは、ユーザーの資格情報を盗むことが判明した ChatGPT を装った悪意のある Chrome 拡張機能に関する実際の事例が強調されています。インストールされると、Facebook のセッション Cookie をハイジャックし、攻撃者にユーザーアカウントへの完全なアクセスを許可しました。これは、複数のプラットフォームで簡単に拡張できる戦術です。
このインシデントは、一見無害なブラウザ拡張機能に関連するリスクと、AI 搭載のソーシャルエンジニアリング攻撃の可能性を強調しています。サイバー犯罪者は AI を使用して、正当なサービスを模倣した説得力のある偽の Web サイトまたはアプリケーションを作成し、ユーザーが本物と悪意のある詐欺師を区別することを困難にする可能性があります。
サイバー犯罪の規模に対するAIの影響
「これらの AI 駆動型ツールの主な貢献は、犯罪活動を規模拡張する能力です」と、Check Point のレポートは付け加えています。「AI によって生成されたテキストにより、サイバー犯罪者は言語と文化の壁を克服し、高度なリアルタイムおよびオフラインのコミュニケーション攻撃を実行する能力を大幅に強化できます。」
AI により、サイバー犯罪者はこれまで時間と労力を要していたタスクを自動化できます。たとえば、AI を使用して数千件のパーソナライズされたフィッシングメールを数分で生成し、誰かが詐欺の被害者になる可能性を高めることができます。
さらに、AI を使用して、フィッシングメールやその他のソーシャルエンジニアリング攻撃の品質を向上させることができます。ユーザーデータを分析し、メッセージを個々の受信者に合わせて調整することで、サイバー犯罪者は検出が困難な非常に説得力のある詐欺を作成できます。
ケニアにおける脅威の状況
ケニア当局も、AI を活用したサイバー攻撃の増加について警鐘を鳴らしています。2024 年 10 月、ケニア通信庁 (CA) は、AI を活用したサイバー攻撃の増加について警告しました。9 月末までの四半期には、全体的な脅威が 41.9% 低下したにもかかわらずです。
「サイバー犯罪者は、AI を活用した攻撃をますます使用して、事業の効率と規模を強化しています」と、CA の David Mugonyi 長官は述べています。「彼らは AI と機械学習を活用して、フィッシングメールやその他の種類のソーシャルエンジニアリングの作成を自動化します。」
彼はまた、攻撃者がオープンポートや脆弱なアクセス制御など、システムの設定ミスをますます悪用して、不正アクセスを取得し、機密データを盗み、マルウェアを展開していると指摘しました。
ケニアは、この脅威に直面している唯一の国ではありません。世界中の国々が、AI を活用したサイバー犯罪の課題に取り組んでいます。
AI ツールのアクセシビリティとサイバー攻撃の洗練度の向上により、組織や個人が身を守ることがますます難しくなっています。
AIを保護するための軍拡競争
AI を受け入れる競争が加速するにつれて、AI を保護するための軍拡競争も加速します。組織とユーザーの両方にとって、警戒はもはやオプションではありません。それは必須です。
AI を活用したサイバー犯罪のリスクを軽減するために、組織は以下を含む多層防御セキュリティアプローチを採用する必要があります。
- AI 搭載の脅威検出: AI を活用した攻撃をリアルタイムで検出し、対応できる AI ベースのセキュリティソリューションの実装。
- 従業員トレーニング: AI 搭載のソーシャルエンジニアリング攻撃のリスクについて従業員を教育し、これらの詐欺を特定して回避するためのスキルを提供します。
- 強力なアクセス制御: 機密データおよびシステムへの不正アクセスを防ぐために、強力なアクセス制御を実装します。
- 定期的なセキュリティ監査: システムおよびインフラストラクチャの脆弱性を特定して対処するために、定期的なセキュリティ監査を実施します。
- コラボレーションと情報共有: AI を活用したサイバー犯罪に対する集団防御を改善するために、他の組織およびセキュリティプロバイダーと脅威インテリジェンスを共有します。
- 倫理的な AI の開発と展開: AI システムが倫理的かつ責任を持って開発および展開され、悪用を防ぐための保護措置が講じられていることを確認します。
個人も、AI を活用したサイバー犯罪から身を守るために、次の手順を実行できます。
- 迷惑メールやメッセージに注意する: 不明な送信者からの電子メールやメッセージを開く場合は、特にリンクや添付ファイルが含まれている場合は注意してください。
- Web サイトおよびアプリケーションの信頼性を検証する: 個人情報を提供する前に、Web サイトおよびアプリケーションが正当であることを確認します。
- 強力なパスワードを使用し、多要素認証を有効にする: 強力でユニークなパスワードでアカウントを保護し、可能な限り多要素認証を有効にします。
- ソフトウェアを最新の状態に保つ: ソフトウェアおよびオペレーティングシステムを定期的に更新して、セキュリティの脆弱性を修正します。
- 疑わしい詐欺を報告する: 疑わしい詐欺を適切な当局に報告します。
AI を活用したサイバー犯罪との戦いは、現在進行中の戦いです。情報を入手し、堅牢なセキュリティ対策を採用し、協力することで、組織と個人は、これらの進化する脅威の犠牲者になるリスクを軽減できます。