AI 업계는 DeepSeek의 R1 추론 모델의 향상된 버전 출시 이후 투기 소용돌이에 휩싸였습니다. 중국 AI 연구소는 수학 및 코딩 벤치마크에서 인상적인 기능을 보여주는 모델을 공개했습니다. 그러나 이 모델을 훈련하는 데 사용된 데이터의 기원은 논쟁의 초점이 되었으며, 일부 AI 연구원들은 Google의 Gemini AI 제품군과의 연관성을 제시하고 있습니다.
DeepSeek의 R1 모델: 자세히 살펴보기
DeepSeek의 R1 추론 모델은 수학 문제 해결 및 코딩 작업과 같은 영역에서의 성능으로 주목을 받았습니다. 회사가 모델 훈련에 사용된 특정 데이터 소스를 공개하기를 꺼리면서 AI 연구 커뮤니티 내에서 추측이 확산되었습니다.
Gemini 영향력에 대한 주장
논쟁의 핵심은 DeepSeek가 Google의 Gemini의 출력을 활용하여 자체 모델을 향상시켰을 가능성입니다. "정서 지능" 평가를 전문으로 하는 AI 개발자인 Sam Paech는 DeepSeek의 R1-0528 모델이 Google의 Gemini 2.5 Pro가 선호하는 언어 및 표현에 대한 선호도를 나타낸다는 증거를 제시했습니다. 이러한 관찰만으로는 결정적인 증거를 구성하지는 않지만 진행 중인 논의에 기여했습니다.
논의에 또 다른 층을 더해, "자유 발언"에 초점을 맞춘 AI 평가 도구인 "SpeechMap"의 익명의 창작자는 DeepSeek 모델이 생성한 "사고"(결론에 도달하기 위해 사용하는 내부 추론 프로세스)가 Gemini의 추적 패턴과 유사하다고 언급했습니다. 이는 DeepSeek가 Google의 Gemini 제품군의 데이터를 사용했는지 여부에 대한 질문을 더욱 심화시킵니다.
이전의 비난과 OpenAI의 우려
DeepSeek가 경쟁 AI 모델의 데이터를 활용했다는 비난을 받은 것은 이번이 처음이 아닙니다. 12월에는 DeepSeek의 V3 모델이 OpenAI의 널리 사용되는 AI 챗봇인 ChatGPT로 자주 식별되는 것이 관찰되었습니다. 이는 모델이 ChatGPT 채팅 로그에서 훈련되었을 가능성에 대한 의혹으로 이어졌습니다.
흥미를 더하기 위해 OpenAI는 올해 초 DeepSeek가 증류를 사용했다는 증거(더 크고 강력한 AI 모델에서 데이터를 추출하여 더 작은 모델을 훈련하는 기술)를 발견한 것으로 알려졌습니다. 보고서에 따르면 OpenAI의 주요 협력자이자 투자자인 Microsoft는 2024년 말 OpenAI 개발자 계정을 통해 상당한 데이터 반출을 감지했습니다. OpenAI는 이러한 계정이 DeepSeek와 관련이 있다고 믿고 있습니다.
증류는 AI 세계에서 일반적인 관행이지만 OpenAI의 서비스 약관은 사용자가 경쟁 AI 시스템을 만들기 위해 회사 모델의 출력을 사용하는 것을 명시적으로 금지합니다. 이는 OpenAI 정책 위반 가능성에 대한 우려를 제기합니다.
AI "오염"의 어려움
AI 모델은 훈련 중에 유사한 어휘 및 표현으로 수렴할 수 있다는 점을 고려하는 것이 중요합니다. 이는 AI 회사의 훈련 데이터의 주요 소스인 열린 웹이 AI 생성 콘텐츠로 점점 더 포화되기 때문입니다. 콘텐츠 팜은 AI를 사용하여 클릭베이트 기사를 생성하고 봇은 Reddit 및 X와 같은 플랫폼에 AI 생성 게시물을 넘쳐납니다.
데이터 환경의 이러한 "오염"으로 인해 훈련 데이터 세트에서 AI 생성 콘텐츠를 효과적으로 필터링하기가 어렵습니다. 결과적으로 모델의 출력이 다른 모델의 데이터에서 실제로 파생되었는지 또는 단순히 웹에서 AI 생성 콘텐츠의 유비쿼터스 존재를 반영하는지 식별하기 어려울 수 있습니다.
이 문제에 대한 전문가의 관점
링크를 명확하게 입증하는 데 어려움이 있음에도 불구하고 AI 연구소 AI2의 연구원인 Nathan Lambert와 같은 AI 전문가들은 DeepSeek가 Google의 Gemini의 데이터로 훈련했을 가능성이 있다고 믿습니다. Lambert는 DeepSeek가 GPU 가용성에 제약이 있지만 충분한 재정적 자원을 보유하고 있으므로 사용 가능한 최고의 API 모델에서 생성된 합성 데이터를 활용하는 것이 더 효율적일 수 있다고 제안합니다.
AI 기업, 보안 조치 강화
증류 및 무단 데이터 사용에 대한 우려로 인해 AI 기업은 보안 조치를 강화하고 있습니다. 예를 들어 OpenAI는 이제 조직이 특정 고급 모델에 액세스하려면 ID 확인 프로세스를 완료해야 합니다. 이 프로세스에는 중국을 제외한 OpenAI의 API에서 지원하는 국가에서 발행한 정부 발급 ID가 필요합니다.
Google은 또한 증류 가능성을 완화하기 위한 조치를 취했습니다. 최근 AI Studio 개발자 플랫폼을 통해 제공되는 모델에서 생성된 추적을 "요약"하기 시작했습니다. 이렇게 하면 Gemini 추적에서 자세한 정보를 추출하여 경쟁 모델을 훈련하기가 더 어려워집니다. 마찬가지로 Anthropic은 "경쟁 우위"를 보호해야 할 필요성을 언급하면서 자체 모델의 추적을 요약할 계획을 발표했습니다.
AI 환경에 미치는 영향
DeepSeek와 Google의 Gemini 데이터의 잠재적 사용을 둘러싼 논란은 AI 환경에서 몇 가지 중요한 문제를 강조합니다.
- 데이터 윤리 및 책임 있는 AI 개발: AI 모델이 점점 더 정교해짐에 따라 데이터 소싱 및 사용을 둘러싼 윤리적 고려 사항이 가장 중요합니다. AI 기업은 윤리적 지침을 준수하고 다른 사람의 지적 재산권을 존중하는지 확인해야 합니다.
- AI 생성 콘텐츠의 영향: 웹에서 AI 생성 콘텐츠의 확산은 AI 훈련에 어려움을 제기합니다. 데이터가 점점 더 "오염"됨에 따라 AI 모델의 품질과 무결성을 보장하기가 더 어려워집니다.
- 투명성 및 책임에 대한 필요성: AI 기업은 데이터 소스 및 훈련 방법에 대해 투명해야 합니다. 이는 신뢰를 구축하고 AI가 책임감 있게 개발되고 사용되도록 하는 데 도움이 됩니다.
- 강력한 보안 조치의 중요성: AI 산업이 더욱 경쟁적으로 변함에 따라 AI 기업은 데이터 및 모델에 대한 무단 액세스를 방지하기 위해 강력한 보안 조치를 구현해야 합니다.
AI 개발의 미래
DeepSeek 논란은 AI 산업이 직면한 복잡한 윤리적 및 기술적 문제점을 상기시켜줍니다. AI가 계속 발전함에 따라 AI 기업, 연구원 및 정책 입안자가 함께 협력하여 AI가 사회에 이익이 되는 방식으로 개발되고 사용되도록 하는 것이 중요합니다. 여기에는 투명성, 책임성 및 윤리적 데이터 관행이 포함됩니다.
계속되는 논쟁: DeepSeek에 대한 주장은 데이터 개인 정보 보호, 보안 및 윤리적 AI 개발을 둘러싼 우려가 커지고 있음을 강조합니다. 데이터 소싱의 투명성 부족과 합법적인 데이터 수집과 무단 데이터 스크래핑 사이의 점점 더 흐릿해지는 경계는 AI 커뮤니티 내에서 명확한 규정과 책임 있는 관행을 요구합니다. 기술이 발전함에 따라 산업은 지적 재산권, "AI 오염"의 위험 및 의도하지 않은 결과의 가능성과 같은 문제에 직면해야 합니다.
AI 훈련 데이터의 윤리: DeepSeek를 둘러싼 논란은 AI 모델에 대한 훈련 데이터를 축적할 때 발생하는 윤리적 고려 사항도 강조합니다. 인터넷에서 스크랩된 막대한 데이터 세트에 대한 의존도가 높아짐에 따라 누가 데이터를 소유하고, 동의를 어떻게 얻는(또는 무시하는)지, 그리고 데이터를 공정하고 책임감 있게 사용하는지 등의 질문이 더욱 시급해지고 있습니다. AI 커뮤니티는 저작권법을 존중하고, 개인 정보를 보호하며, 편향을 완화하는 데이터 소싱에 대한 명확한 지침을 설정해야 합니다.
AI 지배력을 위한 경쟁: DeepSeek에 대한 비난은 미국과 중국 간의 치열한 AI 지배력 경쟁을 반영하는 것으로 해석될 수도 있습니다. 양국은 AI 연구 개발에 수십억 달러를 쏟아붓고 있으며, 획기적인 성과를 달성해야 한다는 압력이 경쟁을 부추기고 잠재적으로 지름길을 택하고 있습니다.DeepSeek가 실제로 OpenAI 또는 Google 데이터를 허가 없이 사용하는 경우, 이는 오랫동안 미국과 중국의 기술 관계를 괴롭혀 온 공격적인 전술과 지적 재산 절도의 한 예로 해석될 수 있습니다.
AI 생태계에 대한 더 광범위한 영향: 현재 초점은 DeepSeek에 맞춰져 있지만 이 사건은 전체 AI 생태계에 더 광범위한 영향을 미칠 수 있습니다. DeepSeek가 ChatGPT 또는 Gemini의 데이터를 불법적으로 사용했다는 것이 입증되면 다른 기업들이 자체 데이터 소싱 관행을 엄격하게 감사하도록 촉구하여 개발 속도를 늦추고 비용을 증가시킬 수 있습니다. 또한 미국과 중국뿐만 아니라 전 세계적으로 데이터 수집 및 사용에 대한 더 엄격한 규정으로 이어질 수도 있습니다.
합성 데이터의 영향: 램버트가 제안한 대로 학습 모델을 위한 실현 가능한 대안으로서의 합성 데이터의 등장은 AI 개발의 미래에 대한 근본적인 질문을 제기합니다. 합성 데이터 세트는 실제 데이터와 관련된 일부 윤리적 및 저작권 문제를 우회하지만 합성 데이터로 훈련된 모델의 성능과 견고성은 종종 원래 데이터로 훈련된 모델과 일치하지 않습니다. AI 커뮤니티는 정확성과 신뢰성을 저해하지 않고 업계의 요구 사항을 충족하는 정교한 합성 데이터 세트를 생성하는 혁신적인 접근 방식을 찾아야 합니다.
데이터 거버넌스 형태로서의 모델 요약: Google과 Anthropic의 최근 모델에서 생성된 추적을 "요약"하기 시작하기로 한 결정은 AI 산업에서 데이터 거버넌스의 중요성이 커지고 있음을 나타냅니다. 모델의 의사 결정 프로세스 내에서 자세한 정보를 난독화함으로써 기업은 다른 사람이 자신의 기술을 리버스 엔지니어링하기 어렵게 만들고 있습니다. 이 접근 방식은 영업 비밀을 보호하고 윤리적인 데이터 소싱 방식을 유지하는 데 도움이 되지만 AI 시스템의 투명성과 설명 가능성에 대한 질문도 제기합니다.
혁신과 윤리적 및 법적 고려 사항의 균형: DeepSeek 논란은 AI 혁신을 장려하는 것과 지적 재산권을 보호하고 윤리적 원칙 준수를 보장하는 것 사이에서 신중한 균형을 유지해야 할 필요성을 강조합니다. AI 모델이 정교함과 복잡성이 계속 증가함에 따라 업계가 직면한 윤리적 및 법적 과제는 더욱 두드러질 것입니다. 이러한 우려 사항 간의 올바른 균형을 찾는 것이 AI의 책임감 있고 지속 가능한 개발을 촉진하는 데 중요할 것입니다.