AI 개념 증명 함정
Cohere의 공동 창립자인 Ivan Zhang은 최근 Web Summit에서 AI에 대한 믿음을 유지하면서 투자 수익(ROI)에 집중해야 한다는 중요성을 강조하며, 기업들이 초기 애플리케이션 구축에도 불구하고 비용, 거버넌스, 데이터 보안 및 개인 정보 보호 문제로 인해 프로덕션으로 전환하는 데 어려움을 겪고 있다고 언급했습니다. 이는 AI의 약속이 실제 구현의 현실과 충돌하는 더 넓은 추세를 반영합니다.
Cohere는 새로운 작업 공간 플랫폼인 North를 통해 해결하고자 하는 비용, 규정 준수, 데이터 보호 및 개인 정보 보호 프로토콜 문제를 지적했습니다.
ROI 필수
Zhang은 인터뷰에서 AI 도입의 다음 단계는 입증 가능한 ROI에 의해 주도되어야 한다고 강조했습니다. 기업은 AI 투자에 대한 명확한 재정적 근거를 확인하여 이점이 비용보다 큰지 확인해야 합니다. 그는 일부 AI 시스템은 운영 비용이 너무 비싸서 작업 자동화로 인한 잠재적인 비용 절감을 무효화한다고 경고했습니다.
"때로는 최종적으로 구축하는 시스템에서 모델 자체의 비용이 실제로 시스템을 실행하는 사람보다 더 비쌉니다."라고 그는 말했습니다.
AI 구현으로 실제로 개선이 있는지에 대한 본질적인 질문은 실현되지 않는 프로젝트를 수행하는 AI 회사의 불신을 극복하기 위해 해결되어야 합니다.
AI 증강 vs. 생산성
Zhang은 또한 기업이 AI를 통해 기존 인력을 증강하려고 시도했지만 생산성 향상을 보지 못한 사례를 언급했습니다. 어떤 경우에는 직원이 단순히 생산량을 늘리지 않고 작업량을 줄여 AI의 이점을 효과적으로 무효화했습니다. 이는 AI가 기존 워크플로에 통합되는 방식을 신중하게 고려하고 진정한 효율성 향상으로 이어지는지 확인하는 것이 중요하다는 점을 강조합니다.
초기 좌절 극복
Zhang은 AI 스타트업이 이제 실현되지 않은 프로젝트로 인해 "화상"을 입은 기업을 다시 확보해야 할 것이라고 예상합니다. "이 기술의 다음 단계는 ‘ROI가 어디에 있느냐’입니다." 그는 AI 회사가 솔루션의 실질적인 가치를 입증하고 측정 가능한 결과 제공에 집중함으로써 신뢰를 재구축해야 할 것이라고 믿습니다.
연구 커뮤니티의 반향
Zhang의 관찰은 National Bureau of Economic Research와 같은 기관의 연구에서 뒷받침됩니다. 이 연구에 따르면 AI 챗봇을 사용하는 7,000개의 직장을 조사한 결과 "어떤 직업에서도 수입이나 기록된 시간에 상당한 영향이 없었습니다." 마찬가지로 Boston Consulting Group의 연구에 따르면 설문 조사에 응한 경영진의 1/4만이 AI로부터 상당한 가치를 얻었으며, 이는 기업이 종종 여러 파일럿에 걸쳐 투자를 너무 얇게 분산한다는 것을 시사합니다.
화려한 솔루션보다 비즈니스 문제 우선 순위 지정
LLM을 고려하는 기업에 대한 Zhang의 조언은 명확한 사용 사례 없이 정교한 솔루션을 구축하는 대신 특정 비즈니스 문제 해결에 집중하라는 것입니다. 그는 "무언가를 구축하고 문제를 찾는 데 길을 잃는" 것에 대해 경고하면서 AI 투자를 전략적 비즈니스 목표에 맞추는 것이 중요하다고 강조했습니다.
도구 상자의 도구로서의 AI
Zhang은 AI가 비즈니스 문제를 해결하고 고객을 위해 가치를 창출하는 데 사용하는 도구 상자의 도구일 뿐이라고 주장했습니다. 그는 이 기술이 세상의 모든 문제를 해결할 수 있다는 잠재력을 과장하지 않도록 경고하면서 다른 솔루션과 함께 전략적으로 사용할 때 가장 효과적이라고 강조했습니다.
환각 문제
AI가 상당한 진전을 이루었지만 특히 LLM이 허위 또는 조작된 정보를 생성하는 "환각" 영역에서 과제가 남아 있습니다. 이 영역에서 발전이 있었음에도 불구하고 LLM 환각률은 완고하게 높은 상태를 유지하고 있으며, 선도적인 회사의 최신 모델조차도 오류를 생성합니다. 이 문제는 AI 모델이 결론에 도달하는 방법에 대한 투명성과 사용자에게 통찰력을 제공하는 것이 중요하다는 점을 강조합니다.
공동 창립자는 수많은 전문가에게 환각이 생성형 AI에서 여전히 문제로 남아 있음을 인정했습니다. 그는 회사가 LLM의 "원래 생각"과 시스템이 사용하는 도구, 답변을 도출하는 방법과 인용문을 사용자에게 보여주는 등 투명성을 제공함으로써 도움을 주려고 노력했다고 밝혔습니다.
경쟁 환경
Cohere는 AI 분야에서 자금 지원이 더 많은 경쟁자와 치열한 경쟁에 직면해 있습니다. 그러나 Zhang은 비용 효율적이고 에너지 효율적인 AI 모델을 구축하는 데 있어 더 큰 것이 항상 더 나은 것은 아니라고 믿습니다. 그는 모델은 "모델이 액세스할 수 있는 데이터와 시스템만큼만 좋다"고 주장하면서 고객 환경 내에서 완전히 실행할 수 있는 솔루션을 구축하는 것이 중요하다고 강조했습니다. Zhang은 Cohere의 "집중적인 성장"을 자랑하며 "비교적 초기 단계"의 특성으로 인해 회사가 확장할 여지가 많다고 말했습니다.
수익 성장 및 과제
Cohere의 성장은 최근 기술 미디어의 초점이 되었습니다. Cohere는 2025년 초 이후 매출이 두 배 이상 증가한 후 이번 달에 연간 수익 1억 달러(1억 3,800만 캐나다 달러)에 도달했으며, CEO인 Aidan Gomez는 최근 Bloomberg에 회사가 수익성에 "거의 가깝다"고 말했습니다. 그러나 The Information은 이것이 Cohere가 2023년에 투자자에게 지금쯤 연간 수익으로 예상했던 것보다 3억 5천만 달러 적다고 보고했습니다. 수익 목표와 치열한 경쟁만이 Cohere가 감당해야 할 과제는 아닙니다.
저작권 침해 소송
AI 스타트업은 또한 한 전문가가 잠재적으로 "선례를 남길" 저작권 침해 소송을 주요 미디어 회사로부터 받았습니다. Toronto Star, Condé Nast 및 Vox를 포함한 미디어 조직 그룹은 Cohere가 동의 없이 미디어 콘텐츠를 스크랩하여 AI 모델을 훈련하고 허가 없이 실시간으로 콘텐츠에 액세스했으며 저작권을 침해하는 출력을 생성했다고 주장했습니다. Cohere는 유사한 소송에 직면한 많은 AI 스타트업 중 하나일 뿐입니다. Cohere는 소송을 제기한 게시자가 사건을 "조작"하기 위해 나섰고 실제 저작권 침해가 발생했다는 개념에 이의를 제기했다고 주장하면서 이러한 주장을 부인했습니다.
Zhang은 이 문제에 대해 자세한 언급을 거부하고 BetaKit에 Cohere의 생각을 자세히 설명하는 블로그 게시물을 참조했습니다. "우리는 그것에 자신이 있습니다."라고 그는 말했습니다.
AI 구현 과제에 대한 심층 분석
많은 기업이 처음에는 AI가 운영 방식을 빠르게 혁신하고 이전에는 들어본 적도 없는 효율성을 창출할 것이라고 믿고 상당한 열정으로 AI 이니셔티브에 뛰어듭니다. 그러나 많은 기업이 예상하지 못했던 상당한 문제에 직면하고 있음을 알게 됩니다. 이러한 어려움은 기술적 복잡성에서 조직적 저항에 이르기까지 다양한 형태로 나타날 수 있습니다. 이러한 과제를 이해하는 것은 AI를 성공적으로 구현하고 투자에 대한 긍정적인 수익을 얻기를 희망하는 기업에게 필수적입니다.
기술적 복잡성 및 데이터 요구 사항
기업이 자주 접하는 첫 번째 장애물 중 하나는 AI 시스템의 기술적 복잡성입니다. AI 모델, 특히 딥 러닝을 기반으로 하는 모델은 계산적으로 까다롭고 생성, 훈련 및 배포에 대한 전문 지식이 필요합니다. 데이터도 필요합니다. 훈련 데이터의 품질과 양은 AI 모델의 성능에 상당한 영향을 미칩니다. 방대한 데이터 세트를 수집하고 준비하는 데 시간이 오래 걸리고 리소스가 많이 소모될 수 있습니다. AI 프로젝트는 고품질, 레이블이 지정된 데이터가 부족하여 방해를 받을 수 있으며, 이는 부정확하거나 편향된 모델을 초래합니다.
또한 AI 시스템과 기존 IT 인프라 간의 상호 운용성을 보장하면 추가적인 복잡성이 발생합니다. 서로 다른 AI 플랫폼과 프레임워크가 레거시 시스템과 호환되지 않아 기존 워크플로 및 아키텍처를 상당히 변경해야 할 수 있습니다. AI를 복잡한 조직 환경에 통합하려면 상당한 경험과 AI 기술 및 기본 상업 운영에 대한 강력한 이해가 필요합니다.
조직 및 문화적 장벽
기술적 장애물 외에도 조직은 AI 도입에 대한 상당한 조직 및 문화적 장애물에 직면할 수 있습니다. 한 가지 일반적인 문제는 AI 기반 변화를 수용하기를 꺼리는 직원의 주저함입니다. 직원은 일자리 переміщення(이동)에 대한 우려뿐만 아니라 새로운 재능을 배우고 새로운 작업 방법에 적응해야 할 필요성에 대해 우려할 수 있습니다. 직원의 저항은 AI 이니셔티브를 방해하고 예상되는 이점을 구현하지 못하게 할 수 있습니다.
또한 AI 배포에는 부서 및 팀 간의 상당한 협업이 필요합니다. 데이터 과학자, IT 전문가, 비즈니스 분석가 및 주제 전문가가 협력하여 문제를 정의하고 AI 솔루션을 생성하고 생산에 배포해야 합니다. 사일로와 의사 소통 부족은 협력을 저해하고 AI를 상업 운영에 효과적으로 통합하는 것을 방해할 수 있습니다. 이러한 조직적 및 문화적 장애물을 극복하려면 강력한 리더십, 효과적인 의사 소통 및 변경 관리에 대한 헌신이 필요합니다.
윤리 및 거버넌스 문제
AI가 더욱 널리 보급됨에 따라 윤리 및 거버넌스 문제가 점점 더 중요해지고 있습니다. AI 시스템은 편견을 영속시키고, 부당한 판단을 내리고, 사람들의 프라이버시를 침해할 수 있습니다. 조직은 AI 설계, 개발 및 배포에 대한 강력한 윤리 지침과 거버넌스 절차를 개발하여 이러한 문제를 해결해야 합니다. 투명성, 책임성 및 공정성은 책임감 있는 AI를 위한 핵심 원칙입니다.
데이터 개인 정보 보호는 고려해야 할 중요한 문제입니다. 데이터 개인 정보 보호 규칙은 AI 시스템을 구축하는 동안 따라야 하며, 민감한 정보를 원치 않는 액세스 또는 남용으로부터 보호하기 위한 안전 조치와 함께 제공되어야 합니다. 조직은 데이터 수집 및 사용에 대한 사용자 동의를 얻어야 할 뿐만 아니라 AI 모델이 선택하는 방법에 대한 투명성을 제공해야 합니다. 또한 조직은 윤리적 위험 또는 달갑지 않은 결과를 발견하고 완화하기 위해 AI 시스템을 모니터링하고 감사하기 위한 메커니즘을 갖추어야 합니다.
ROI 측정 및 입증
궁극적으로 모든 AI 프로젝트의 성공 여부는 투자에 대한 정량화할 수 있는 수익(ROI)을 생산할 수 있는 능력에 달려 있습니다. 그러나 AI 프로젝트의 ROI를 결정하는 것은 어려울 수 있으며, 특히 이점이 무형이거나 장기적인 경우에는 더욱 그렇습니다. 조직은 AI 이니셔티브에 대한 명확한 목표와 지표를 설정하고 진행 상황을 추적하고 결과를 정기적으로 측정해야 합니다. 이를 위해서는 AI가 제공할 것으로 예상되는 비즈니스 가치와 해당 가치를 달성하는 데 필요한 리소스에 대한 철저한 이해가 필요합니다.
또한 AI의 이점을 이해 관계자에게 전달하는 것은 지원을 얻고 AI 투자에 대한 확신을 구축하는 데 매우 중요합니다. 여기에는 사용 사례 제시, 초기 성공 사례 소개, AI가 필수 비즈니스 지표에 미치는 영향 정량화가 포함될 수 있습니다. AI의 ROI를 성공적으로 정량화하고 보여주기 위해 기업은 성과 측정을 위한 정의된 프레임워크를 만들고 이해 관계자에게 가치 제안을 명확하게 전달해야 합니다.
AI 도입의 미래: 균형 잡힌 관점
Ivan Zhang의 통찰력은 AI 잠재력을 인정하면서도 실용적인 현실에 기반한 AI 도입에 대한 균형 잡힌 접근 방식의 중요성을 강조합니다. AI가 계속 진화함에 따라 기업은 실질적인 ROI를 제공하고 윤리적 문제를 해결하며 기존 워크플로에 원활하게 통합되는 솔루션 구축에 집중해야 합니다. 화려한 솔루션보다 비즈니스 문제를 우선시하고 AI를 도구 상자의 도구로 간주함으로써 조직은 AI의 진정한 잠재력을 실현하고 의미 있는 비즈니스 결과를 이끌어낼 수 있습니다.