인공지능(AI)의 어두운 면: 언어 모델이 사이버 공격에 악용되는 방법
AI의 급속한 발전과 일상적인 디지털 생활로의 통합은 흥분과 불안감을 동시에 불러일으키고 있습니다. AI는 산업을 혁신하고 효율성을 향상시킬 것을 약속하지만, 특히 사이버 범죄자에 의한 악용과 관련된 새로운 과제도 제시합니다. 소프트웨어 기술 연구 회사인 Check Point의 최근 AI 보안 보고서는 이러한 증가하는 위협에 대한 조명을 비추며 해커들이 악의적인 활동의 규모, 효율성 및 영향을 증폭시키기 위해 AI 도구를 점점 더 많이 활용하고 있음을 보여줍니다.
Check Point 보고서는 동종 최초의 보고서로서 기술이 계속 발전함에 따라 강력한 AI 보호 장치의 긴급한 필요성을 강조합니다. 이 보고서는 AI 위협이 더 이상 가설적인 시나리오가 아니라 실시간으로 적극적으로 진화하고 있음을 강조합니다. AI 도구가 더욱 쉽게 액세스할 수 있게 됨에 따라 위협 행위자는 AI를 통해 기능을 향상시키고 AI 기술을 채택하는 조직과 개인을 표적으로 삼는 두 가지 주요 방식으로 이러한 접근성을 악용하고 있습니다.
사이버 범죄자를 유혹하는 언어 모델
사이버 범죄자들은 AI 채택의 추세를 부지런히 모니터링하고 있습니다. 새로운 대규모 언어 모델(LLM)이 대중에 공개될 때마다 이러한 악의적인 행위자들은 그것의 사악한 목적을 위한 잠재력을 빠르게 탐구합니다. ChatGPT 및 OpenAI의 API는 현재 이러한 범죄자들이 선호하는 도구이지만 Google Gemini, Microsoft Copilot 및 Anthropic Claude와 같은 다른 모델도 꾸준히 인기를 얻고 있습니다.
이러한 언어 모델의 매력은 설득력 있는 피싱 이메일을 작성하는 것부터 악성 코드를 생성하는 것까지 다양한 사이버 범죄의 측면을 자동화하고 확장할 수 있다는 점입니다. 이 보고서는 우려스러운 추세를 강조합니다. 사이버 범죄를 위해 특별히 맞춤화된 전문적인 악성 LLM의 개발 및 거래로서 종종 “다크 모델”이라고 합니다.
다크 AI 모델의 부상
DeepSeek 및 Alibaba의 Qwen과 같은 오픈 소스 모델은 최소한의 사용 제한과 무료 계층 접근성으로 인해 사이버 범죄자에게 점점 더 매력적으로 다가오고 있습니다. 이러한 모델은 악의적인 실험과 적응을 위한 비옥한 기반을 제공합니다. 그러나 이 보고서는 더욱 놀라운 추세를 보여줍니다. 사이버 범죄를 위해 특별히 맞춤화된 전문적인 악성 LLM의 개발 및 거래입니다. 이러한 “다크 모델”은 윤리적 보호 장치를 우회하도록 설계되었으며 해킹 도구로 공개적으로 판매됩니다.
악명 높은 예 중 하나는 ChatGPT를 탈옥하여 만든 모델인 WormGPT입니다. “궁극적인 해킹 AI”로 브랜드화된 WormGPT는 윤리적 필터 없이 피싱 이메일을 생성하고, 멀웨어를 작성하고, 소셜 엔지니어링 스크립트를 작성할 수 있습니다. 그것은 심지어 구독과 튜토리얼을 제공하는 텔레그램 채널에 의해 뒷받침되어 다크 AI의 상업화를 분명히 나타냅니다.
다른 다크 모델에는 GhostGPT, FraudGPT 및 HackerGPT가 포함되며 각 모델은 사이버 범죄의 전문적인 측면을 위해 설계되었습니다. 일부는 단순히 주류 도구 주변의 탈옥 래퍼이고 다른 일부는 오픈 소스 모델의 수정된 버전입니다. 이러한 모델은 일반적으로 지하 포럼과 다크 웹 마켓플레이스에서 판매 또는 임대용으로 제공되어 광범위한 사이버 범죄자가 액세스할 수 있습니다.
가짜 AI 플랫폼 및 멀웨어 배포
AI 도구에 대한 수요는 또한 합법적인 서비스인 척하지만 실제로는 멀웨어, 데이터 절도 및 금융 사기를 위한 수단인 가짜 AI 플랫폼의 확산을 초래했습니다. 그러한 예 중 하나는 피싱 사이트로 의심되는 HackerGPT Lite입니다. 마찬가지로 DeepSeek 다운로드를 제공하는 일부 웹사이트는 멀웨어를 배포하는 것으로 알려져 있습니다.
이러한 가짜 플랫폼은 종종 고급 AI 기능 또는 독점적인 기능을 약속하면서 의심하지 않는 사용자를 유혹합니다. 사용자가 플랫폼에 참여하면 악성 소프트웨어를 다운로드하거나 로그인 자격 증명 또는 금융 정보와 같은 중요한 정보를 제공하도록 속을 수 있습니다.
AI 지원 사이버 공격의 실제 사례
Check Point 보고서는 사용자 자격 증명을 훔치는 것이 발견된 ChatGPT로 가장한 악성 Chrome 확장 프로그램과 관련된 실제 사례를 강조합니다. 일단 설치되면 Facebook 세션 쿠키를 하이재킹하여 공격자에게 사용자 계정에 대한 모든 액세스 권한을 부여했습니다. 이는 여러 플랫폼에서 쉽게 확장할 수 있는 전술입니다.
이 사건은 겉보기에는 무해한 브라우저 확장 프로그램과 AI 기반 소셜 엔지니어링 공격의 잠재적 위험과 관련성을 강조합니다. 사이버 범죄자는 AI를 사용하여 합법적인 서비스를 모방하는 설득력 있는 가짜 웹사이트 또는 애플리케이션을 만들어 사용자가 실제와 악성 사기꾼을 구별하기 어렵게 만들 수 있습니다.
사이버 범죄 규모에 대한 AI의 영향
“이러한 AI 기반 도구의 주요 기여는 범죄 운영을 확장하는 능력입니다”라고 Check Point 보고서는 덧붙입니다. “AI 생성 텍스트를 통해 사이버 범죄자는 언어 및 문화적 장벽을 극복하여 정교한 실시간 및 오프라인 커뮤니케이션 공격을 실행하는 능력을 크게 향상시킬 수 있습니다.”
AI는 사이버 범죄자가 이전에는 시간이 많이 걸리고 노동 집약적이었던 작업을 자동화할 수 있도록 합니다. 예를 들어 AI를 사용하여 몇 분 안에 수천 개의 개인화된 피싱 이메일을 생성하여 누군가가 사기의 피해자가 될 가능성을 높일 수 있습니다.
또한 AI를 사용하여 피싱 이메일 및 기타 소셜 엔지니어링 공격의 품질을 향상시킬 수 있습니다. 사용자 데이터를 분석하고 메시지를 개별 수신인에게 맞춤으로써 사이버 범죄자는 감지하기 어려운 매우 설득력 있는 사기를 만들 수 있습니다.
케냐의 위협 환경
케냐 당국도 AI 지원 사이버 공격의 증가에 대해 경고하고 있습니다. 2024년 10월 케냐 통신 당국(CA)은 9월 말 분기 동안 전체 위협이 41.9% 감소했음에도 불구하고 AI 지원 사이버 공격이 증가했다고 경고했습니다.
CA 사무총장 David Mugonyi는 “사이버 범죄자는 AI 지원 공격을 사용하여 운영의 효율성과 규모를 향상시키고 있습니다.”라고 말했습니다. “그들은 AI와 머신 러닝을 활용하여 피싱 이메일 및 기타 유형의 소셜 엔지니어링 생성을 자동화합니다.”
그는 또한 공격자가 권한 없는 액세스 권한을 얻고, 중요한 데이터를 훔치고, 멀웨어를 배포하기 위해 열린 포트 및 약한 액세스 제어와 같은 시스템 오구성 방법을 점점 더 많이 악용하고 있다고 언급했습니다.
케냐는 이러한 위협에 직면하는 데 혼자가 아닙니다. 전 세계 국가들이 AI 지원 사이버 범죄의 과제와 씨름하고 있습니다.
AI 도구의 접근성과 사이버 공격의 정교함이 증가함에 따라 조직과 개인이 자신을 보호하기가 더욱 어려워지고 있습니다.
AI를 보호하기 위한 군비 경쟁
AI를 수용하기 위한 경쟁이 가속화됨에 따라 AI를 보호하기 위한 군비 경쟁도 가속화됩니다. 조직과 사용자 모두에게 경계는 더 이상 선택 사항이 아니라 필수입니다.
AI 지원 사이버 범죄의 위험을 완화하기 위해 조직은 다음을 포함하는 다층 보안 접근 방식을 채택해야 합니다.
- AI 기반 위협 탐지: AI 지원 공격을 실시간으로 탐지하고 대응할 수 있는 AI 기반 보안 솔루션을 구현합니다.
- 직원 교육: AI 기반 소셜 엔지니어링 공격의 위험에 대해 직원을 교육하고 이러한 사기를 식별하고 피하는 데 필요한 기술을 제공합니다.
- 강력한 액세스 제어: 중요한 데이터와 시스템에 대한 권한 없는 액세스를 방지하기 위해 강력한 액세스 제어를 구현합니다.
- 정기적인 보안 감사: 시스템 및 인프라의 취약점을 식별하고 해결하기 위해 정기적인 보안 감사를 수행합니다.
- 협업 및 정보 공유: AI 지원 사이버 범죄에 대한 집단 방어를 개선하기 위해 다른 조직 및 보안 제공자와 위협 인텔리전스를 공유합니다.
- 윤리적인 AI 개발 및 배포: AI 시스템이 오용을 방지하기 위한 보호 장치가 마련된 상태로 윤리적이고 책임감 있게 개발 및 배포되도록 보장합니다.
개인은 또한 AI 지원 사이버 범죄로부터 자신을 보호하기 위해 조치를 취할 수 있습니다.
- 원치 않는 이메일 및 메시지에 주의: 특히 링크나 첨부 파일이 포함된 알 수 없는 발신자의 이메일과 메시지를 열 때 주의하십시오.
- 웹사이트 및 애플리케이션의 진위 여부 확인: 개인 정보를 제공하기 전에 웹사이트 및 애플리케이션이 합법적인지 확인하십시오.
- 강력한 비밀번호를 사용하고 다단계 인증을 활성화: 강력하고 고유한 비밀번호로 계정을 보호하고 가능한 경우 다단계 인증을 활성화합니다.
- 소프트웨어를 최신 상태로 유지: 보안 취약점을 패치하기 위해 소프트웨어와 운영 체제를 정기적으로 업데이트합니다.
- 의심되는 사기 행위 신고: 의심되는 사기 행위를 해당 당국에 신고합니다.
AI 지원 사이버 범죄에 대한 싸움은 현재 진행 중인 전투입니다. 정보를 유지하고 강력한 보안 조치를 채택하고 함께 협력함으로써 조직과 개인은 이러한 진화하는 위협의 피해자가 될 위험을 줄일 수 있습니다.