DeepSeek의 논란적인 등장
중국 AI 모델인 DeepSeek은 올해 초 상당한 관심과 찬사를 받았지만, 최근 바이두의 회장이자 CEO인 로빈 리로부터 비판을 받았습니다. 4월 25일 바이두 AI 개발자 컨퍼런스에서 리 회장은 DeepSeek의 다양한 미디어 형식 처리 능력의 한계, 느린 성능과 높은 비용, 부정확한 정보 생성 경향으로 인해 광범위한 사용에 신뢰할 수 없다는 점을 언급하며 DeepSeek의 능력에 대한 우려를 표명했습니다.
Guancha.cn과 Sina.com의 보고서에 따르면 리 회장은 컨퍼런스에서 대규모 AI 모델의 변동하는 환경에 대해 언급했습니다. 그는 모델 개발자 간의 치열한 경쟁을 ‘쥐 경주’라고 표현하며, 개발자들이 자신감을 가지고 애플리케이션을 만들 수 없는 혼란과 망설임을 초래한다고 강조했습니다.
리 회장은 ‘애플리케이션이 없으면 칩과 모델은 가치가 없다’고 강조했습니다. 그는 현재 대규모 모델을 활용하는 데 드는 높은 비용과 비현실성이 AI 애플리케이션을 구축하려는 개발자들에게 주요 장애물이라고 지적했습니다.
중국 항저우에 본사를 둔 스타트업인 DeepSeek은 1월에 오픈 소스 추론 모델인 R1을 출시했습니다. 당시 국영 언론은 DeepSeek을 OpenAI를 능가하는 것으로 칭찬했습니다. 그러나 사용자 및 연구자들의 후속 조사 결과 단점, 보안 취약성 및 잠재적 위험이 드러났습니다. 대만, 일본, 한국, 미국, 캐나다, 이탈리아, 호주 및 네덜란드를 포함한 수많은 정부와 수백 개의 기업이 정부 및 기업 장치에서 DeepSeek 사용을 금지했습니다.
2월 8일, AI 보안 전문가는 DeepSeek에 대한 심층 보안 테스트 결과를 언론에 공유했습니다. 그들은 DeepSeek이 ChatGPT, Gemini 및 Claude보다 ‘jailbreaking’에 더 취약하다는 사실을 발견했습니다. 이러한 취약점으로 인해 사용자는 AI의 원래 안전 제한을 우회하여 잠재적으로 위험하고 유해하거나 불법적인 콘텐츠를 더 쉽게 얻을 수 있습니다.
3월에는 DeepSeek 모델을 통합하여 API 및 클라우드 미러 서비스를 제공하는 데 앞장섰던 칭화대학교와 연계된 AI 인프라 회사인 ‘Luchen Technology’가 관련 서비스 중단을 발표했습니다. 회사 설립자인 You Yang은 게시물을 통해 DeepSeek과 관련된 실제 비용이 이론적 비용보다 훨씬 높다고 밝혔습니다. 온라인 반발 이후 그는 DeepSeek이 단기적으로 미국 기술을 사용하지 않고는 작동할 수 없다는 점을 공개적으로 인정하며 왜 이러한 현실을 공개적으로 인정할 수 없는지 의문을 제기했습니다.
3월 4일 Sina Technology의 보고서에 따르면 DeepSeek은 3월 1일 17시 02분에 온라인 시스템의 이론적 비용 이윤이 545%라고 발표했습니다. 그 후 Luchen Technology는 일주일 이내에 DeepSeek API 서비스 제공을 중단하고 사용자에게 남은 잔액을 사용하도록 촉구할 것이라고 발표했습니다.
이 보고서는 Luchen Technology가 DeepSeek API 서비스 중단에 대한 구체적인 이유를 공개적으로 밝히지 않았다고 언급했습니다. 그러나 Zhihu와 같은 플랫폼에서 DeepSeek 비용에 대한 설립자의 광범위한 분석은 비용이 API 서비스 제공 중단의 주요 요인임을 시사합니다.
국가 안보에 대한 우려
DeepSeek과 중국 정부 간의 연관성은 처음 인식된 것보다 잠재적으로 더 직접적입니다. 캐나다 사이버 보안 회사인 Feroot Security는 DeepSeek 웹 사이트 로그인 페이지와 이전에 미국 정부의 제재를 받은 중국 국영 기업인 China Mobile 간의 중요한 연관성을 발견했습니다.
최근 몇 달 동안 국가 안보에 대한 우려로 인해 DeepSeek 금지를 요구하는 목소리가 높아지고 있습니다.
4월 24일, 미국 하원 의원 몇 명이 DeepSeek에 서한을 보내 중국 공산당(CCP)과의 연관성에 대한 우려를 표명하고 AI 모델을 훈련하는 데 사용된 미국 데이터에 대한 정보를 요청했습니다.
하원 에너지 상무 위원회 위원장인 브렛 거스리 의원과 혁신, 데이터 및 상무 소위원회 위원장인 거스 빌리라키스 의원은 소위원회 위원 10명과 함께 DeepSeek에 서한을 보내 회사의 ‘미국인 개인 데이터 수집’과 관련된 국가 안보 위험에 대한 우려를 표명했습니다.
서한에서 거스리 의원과 빌리라키스 의원은 ‘DeepSeek은 미국 사용자의 개인 데이터를 중국 서버로 전송하는 것을 인정하며, 그 정보는 의심할 여지 없이 중국 공산당과 관련된 관리자들이 접근할 것입니다. 우리는 우리의 주요 적대국과의 이러한 대리인 관계가 우리의 데이터와 국가 안보를 위태롭게 할까 우려합니다.’라고 밝혔습니다.
‘미국 사용자와 그들의 사업이 외국 간섭으로부터 보호될 수 있도록 DeepSeek과 우리나라에 가하는 위협에 대한 조사를 시작합니다.’
이 서한은 또한 ‘언론 보도에 따르면 회사는 또한 ByteDance를 포함하여 중국 공산당과 관련된 다른 단체와 사용자의 개인 정보를 공유합니다.
‘동시에 연구원들은 DeepSeek의 주장된 보안 통제 및 모델 안전 장치에서 중요한 취약점을 발견했습니다. 이러한 위험에 대응하여 뉴욕, 텍사스 및 버지니아를 포함한 점점 더 많은 주에서 정부 장치에서 DeepSeek 사용을 금지했으며 주 법무 장관은 더 광범위한 금지를 요구했습니다.’
4월 16일, 미국 하원 중국 공산당 특별 위원회는 DeepSeek이 미국 국가 안보에 심각한 위협을 가하고 있다고 강조하는 보고서를 발표했습니다. 이 보고서는 DeepSeek이 CCP를 위해 사용자 데이터를 수집하고 결과를 비밀리에 조작하여 CCP가 자신을 미화하고, 외국 시민을 감시하고, 미국 수출 통제 제한을 훔치고 약화시키는 최신 도구가 되었다고 비난했습니다.
이 보고서는 DeepSeek이 사용자에게 텍스트를 생성하고 질문에 답변하는 방법을 제공하는 또 다른 AI 챗봇처럼 보일 수 있지만 자세히 살펴보면 DeepSeek이 획득한 개인 데이터를 중국 군부와 연계된 China Mobile에 비밀리에 전송하여 사용자에게 보안 취약성을 만들고 있음을 알 수 있다고 지적했습니다. 미국은 이미 China Mobile의 미국 내 운영을 금지했습니다.
DeepSeek의 주장된 단점에 대한 심층 분석
DeepSeek을 둘러싼 초기 과장 광고는 다양한 부문에 혁명을 일으킬 준비가 된 AI의 경이로운 그림을 그렸지만, 면밀한 조사는 더 미묘하고 복잡한 현실을 드러냈습니다. 바이두 CEO인 로빈 리가 제기한 우려와 그에 따른 사이버 보안 전문가와 정부 기관의 조사는 DeepSeek이 기대에 미치지 못하고 잠재적인 위험을 제기하는 여러 중요한 영역을 강조합니다.
제한된 멀티모달 기능
DeepSeek에 대한 주요 비판 중 하나는 멀티모달 콘텐츠를 처리하는 능력이 제한적이라는 것입니다. 텍스트, 이미지, 오디오 및 비디오를 포함한 다양한 형식의 데이터를 원활하게 통합하고 이해할 수 있는 고급 AI 모델과 달리 DeepSeek은 기본적인 텍스트 입력 이상의 것을 이해하는 데 어려움을 겪는 것으로 알려져 있습니다. 이러한 제한은 정보가 종종 다양한 형식의 조합으로 제공되는 실제 시나리오에서 적용 가능성을 크게 제한합니다. 예를 들어 DeepSeek은 텍스트와 이미지를 모두 포함하는 소셜 미디어 게시물을 분석하거나 화상 회의를 전사하고 이해하는 데 어려움을 겪을 수 있습니다.
성능 문제: 속도 및 비용
다양한 미디어를 처리하는 데 있어 제한 사항 외에도 DeepSeek은 성능과 관련된 문제에도 직면해 있습니다. 로빈 리에 따르면 이 모델은 ‘느린’ 속도와 ‘높은’ 비용으로 특징지어지므로 확장 가능하고 비용 효율적인 AI 애플리케이션을 구축하려는 개발자에게 매력적이지 않습니다. DeepSeek을 실행하는 데 필요한 높은 컴퓨팅 리소스는 특히 대규모 배포가 있는 기업에게 상당한 비용으로 이어질 수 있습니다. 또한 느린 처리 속도는 챗봇이나 가상 비서와 같이 긍정적인 사용자 경험을 위해 응답성이 중요한 실시간 애플리케이션을 방해할 수 있습니다.
‘환각률’ 문제
DeepSeek을 둘러싼 또 다른 주요 우려는 부정확하거나 무의미한 정보를 생성하는 모델의 경향을 나타내는 높은 ‘환각률’입니다. 이 문제는 신뢰할 수 있고 신뢰할 수 있는 출력이 필요한 애플리케이션에 심각한 문제를 제기합니다. 정확성이 가장 중요한 의료 또는 금융과 같은 중요한 영역에서 DeepSeek이 허위 또는 오해의 소지가 있는 정보를 생성할 위험은 심각한 결과를 초래할 수 있습니다. ‘환각률’은 모델의 신뢰성을 떨어뜨리고 민감한 상황에서 사용성을 제한합니다.
보안 취약성 및 Jailbreaking
DeepSeek이 다른 주요 AI 모델보다 ‘jailbreaking’에 더 취약하다는 사실이 밝혀지면서 심각한 보안 문제가 제기됩니다. ‘Jailbreaking’은 유해하거나 비윤리적이거나 불법적인 콘텐츠를 얻기 위해 AI의 안전 제한을 우회하는 과정을 말합니다. DeepSeek이 이러한 방식으로 더 쉽게 조작될 수 있다는 사실은 기본 보안 아키텍처에 약점이 있음을 시사합니다. 이러한 취약점은 악의적인 행위자가 오보를 생성하거나 선전을 퍼뜨리거나 기타 유해한 활동에 참여하는 데 악용될 수 있습니다.
데이터 개인 정보 보호 및 국가 안보 위험
DeepSeek과 중국 정부 간의 주장된 연관성, 특히 China Mobile과의 데이터 공유 관행은 데이터 개인 정보 보호 및 국가 안보에 대한 경고를 촉발했습니다. 미국 사용자의 개인 데이터를 CCP와 관련된 관리자가 액세스할 수 있는 중국 서버로 전송하는 것은 잠재적인 감시, 간첩 행위 및 민감한 정보의 손상에 대한 심각한 우려를 제기합니다. 미국 정부의 DeepSeek에 대한 조사는 적대적인 정부와 긴밀한 관계를 맺고 있는 외국 기관에서 개발한 AI 모델과 관련된 잠재적 위험에 대한 인식이 높아지고 있음을 강조합니다.
더 넓은 의미
DeepSeek을 둘러싼 우려는 이 특정 AI 모델의 특정 제한 사항 및 취약성을 넘어 확장됩니다. 이는 AI 기술의 빠른 개발 및 배포와 관련된 더 광범위한 문제와 위험을 반영합니다. DeepSeek 사례는 다음의 중요성을 강조합니다.
- 엄격한 테스트 및 평가: 광범위하게 배포되기 전에 AI 모델에서 잠재적인 약점, 편향 및 보안 취약성을 식별하고 해결하려면 철저한 테스트 및 평가가 필수적입니다.
- 투명성 및 책임: 개발자는 모델을 훈련하는 데 사용된 데이터와 사용하는 알고리즘에 대해 투명해야 합니다. 또한 AI 시스템의 결과 및 결과에 대해 책임을 져야 합니다.
- 데이터 개인 정보 보호 및 보안 보호: 사용자의 개인 정보를 무단 액세스, 오용 또는 악용으로부터 보호하려면 강력한 데이터 개인 정보 보호 및 보안 조치가 필요합니다.
- 국제 협력: AI 개발 및 배포에 대한 공통 표준 및 규정을 수립하여 이러한 기술이 책임감 있고 윤리적으로 사용되도록 하려면 국제 협력이 중요합니다.
- 비판적 사고 및 미디어 리터러시: 사용자는 AI 모델에서 생성된 정보를 비판적으로 평가하고 정확한 콘텐츠와 오해의 소지가 있는 콘텐츠를 구별하기 위해 미디어 리터러시 기술을 개발하도록 장려되어야 합니다.
DeepSeek 논란은 AI 혁신 추구가 잠재적인 위험과 사회적 영향에 대한 신중한 고려와 균형을 이루어야 한다는 점을 상기시켜주는 경고의 역할을 합니다.