概念驗證的陷阱
人工智慧 (AI) 的迅速崛起，已引領各行各業湧現大量的實驗。然而，許多公司正面臨「概念驗證疲勞」，即初步試驗未能轉化為實際的商業價值。領先的企業大型語言模型 (LLM) 公司 Cohere 的共同創辦人 Ivan Zhang 在近期的 Web Summit 上，針對這種日益嚴重的挫折感發表談話，敦促潛在客戶保持對 AI 的信心，同時強調必須專注於投資報酬率 (ROI)。
Zhang 強調，企業在投入大量 AI 試點項目後，卻未看到相應的回報，因而感到幻滅。他坦承，許多 Cohere 的客戶儘管建立了初步的應用程式，但由於成本、治理、資料安全和隱私等問題，難以將它們投入生產。這種情緒反映了一種更廣泛的趨勢，即 AI 的承諾往往與實際實施的現實情況相衝突。
他指出了費用問題、法規遵循、資料保護和隱私協議，Cohere 希望透過其新的工作區平台 North 來解決這些問題。
投資報酬率的必要性
在一次訪談中，Zhang 強調，AI 採用的下一個階段必須由可證明的 ROI 來驅動。公司需要看到其 AI 投資的明確財務理由，確保收益超過成本。他警告說，有些 AI 系統的營運成本非常高昂，以至於抵銷了自動化任務帶來的任何潛在成本節省。
「有時候他們最終建構的系統，模型本身的成本比實際運行它的人力還要昂貴，」他說。
必須解決 AI 實施是否真正改善的問題，才能克服 AI 公司承接永遠無法實現的專案所造成的負面影響。
AI 擴增與生產力
Zhang 還指出，有些公司試圖利用 AI 來擴增現有勞動力，但未能看到生產力的任何改善。在某些情況下，員工只是減少了工作量，而沒有增加產出，從而有效地抵銷了 AI 的益處。這突顯了仔細考慮如何將 AI 整合到現有工作流程中的重要性，並確保它能帶來真正的效率提升。
克服早期挫折
Zhang 預期，AI 新創公司現在將被賦予贏回被沒有成功的專案「燒傷」的公司的任務。「這項技術進入市場的下一個階段是，『ROI 在哪裡？』」他認為，AI 公司需要透過展示其解決方案的實際價值並專注於交付可衡量的成果來重建信任。
來自研究界的迴響
Zhang 的觀察得到了來自如美國國家經濟研究局等組織的研究支持，該研究發現，在使用 AI 聊天機器人的 7,000 個工作場所進行調查後，「對任何職業的收入或記錄工時沒有顯著影響」。同樣地，波士頓顧問集團 (Boston Consulting Group) 的一項研究顯示，只有四分之一接受調查的高階主管從 AI 中看到了顯著的價值，這表明公司經常將其投資過於分散在多個試點專案中。
優先考慮業務問題而非華而不實的解決方案
Zhang 給予考慮使用 LLM 的公司的建議是，專注於解決特定的業務問題，而不是建構沒有明確用例的精巧解決方案。他告誡不要「迷失在建構某些東西並尋找問題」，強調將 AI 投資與策略性業務目標結合的重要性。
AI 作為工具箱中的工具
Zhang 認為，AI 應被視為僅僅是解決業務問題和為客戶創造價值的一個工具。他告誡不要過度炒作該技術解決所有世界問題的潛力，強調它在策略性地使用並與其他解決方案結合使用時最有效。
幻覺的挑戰
儘管 AI 取得了顯著的進展，但挑戰仍然存在，特別是在「幻覺」領域，即 LLM 產生錯誤或捏造的資訊。儘管在這方面取得了進展，但 LLM 的幻覺率仍然居高不下，即使是來自領先公司的最新模型也會產生錯誤。這個問題突顯了透明度的重要性，並為使用者提供對 AI 模型如何得出其結論的見解。
這位共同創辦人向眾多專業人士承認，幻覺仍然是生成式 AI 的一個問題。他表示，該公司一直試圖透過透明化來提供幫助，包括向使用者展示其 LLM 的「原始思考」，以及其系統使用的工具，以及如何及衍生答案的引用。
競爭態勢
Cohere 在 AI 領域面臨著資金更充足的競爭對手的激烈競爭。然而，Zhang 認為，在建構具有成本效益和節能的 AI 模型時，越大並不總是越好。他認為，一個模型「只與它可以存取的資料和系統一樣好」，並強調建構可以在客戶環境中完全運行的解決方案的重要性。Zhang 吹捧 Cohere 的「強勁增長」，並表示該領域「相對新興」的性質為公司提供了充足的擴張空間。
收入成長與挑戰
Cohere 的成長一直是科技媒體近期關注的焦點。自 2025 年初以來，Cohere 的銷售額成長了一倍多，本月達到 1 億美元 (1.38 億加元) 的年化收入，而 CEO Aidan Gomez 最近告訴彭博社，該公司「離獲利不遠」。但 The Information 報導稱，這仍然比 Cohere 在 2023 年告訴投資者預期到目前為止每年賺取的金額少 3.5 億美元。收入目標和激烈的競爭並非 Cohere 必須應對的唯一挑戰。
著作權侵權訴訟
這家 AI 新創公司還面臨著一位專家稱之為可能「具有先例性」的來自主要媒體公司的著作權侵權訴訟。包括 Toronto Star、Condé Nast 和 Vox 在內的一組媒體組織指控 Cohere 未經同意抓取媒體內容並用它來訓練 AI 模型，未經許可即時存取內容，並產生侵權輸出。Cohere 只是面臨類似訴訟的眾多 AI 新創公司之一。Cohere 否認了這些指控，辯稱起訴的出版商已不遺餘力地「製造」案件，並對任何實際著作權侵權行為的觀念提出異議。
Zhang 拒絕對此事發表太多評論，而是將 BetaKit 指向一篇詳細說明 Cohere 想法的部落格文章。「我們對此充滿信心，」他說。
深入探討 AI 實施挑戰
許多企業最初都以相當大的熱情投入 AI 專案，相信 AI 將迅速徹底改變他們的營運並創造前所未聞的效率。但是，許多人發現自己面臨著他們沒有預料到的重大挑戰。這些困難可能採取多種形式，從技術複雜性到組織阻力。對於希望成功實施 AI 並獲得正向投資回報的企業來說，了解這些挑戰至關重要。
技術複雜性與資料需求
企業經常遇到的第一個障礙是 AI 系統的技術複雜性。AI 模型，特別是基於深度學習的模型，在計算上有很高的要求，並且需要專業知識才能創建、訓練和部署。也需要資料。訓練資料的品質和數量對 AI 模型的效能有很大的影響。收集和準備龐大的資料集可能是一個耗時且資源密集的過程。AI 專案可能會因缺乏高品質、標記的資料而受到阻礙，這會導致不準確或有偏見的模型。
此外，保證 AI 系統與現有 IT 基礎設施的互操作性引入了進一步的複雜性。不同的 AI 平台和框架可能與舊版系統不相容，需要對現有的工作流程和架構進行重大變更。將 AI 整合到複雜的組織環境中通常需要相當多的經驗以及對 AI 技術和底層商業營運的深刻理解。
組織和文化障礙
除了技術障礙之外，組織可能還會遇到重大的組織和文化障礙，從而阻礙 AI 的採用。一個普遍的問題是員工不願接受 AI 驅動的變更。員工可能會擔心失業以及需要學習新技能和適應新工作方式。工人的抵制可能會阻礙 AI 專案並阻止預期優勢的實現。
此外，AI 部署需要部門和團隊之間的密切協作。資料科學家、IT 專業人員、業務分析師和主題專家必須協作來定義問題、創建 AI 解決方案並將它們部署到生產中。孤島和缺乏溝通可能會扼殺合作並阻礙 AI 有效地整合到商業營運中。克服這些組織和文化障礙需要強有力的領導、有效的溝通以及對變更管理的奉獻精神。
倫理和治理問題
隨著 AI 變得越來越普及，倫理和治理問題變得越來越重要。AI 系統有能力延續偏見、做出不公平的判斷並侵犯人們的隱私。組織必須透過制定健全的倫理指南和治理程序來解決這些問題，以用於 AI 的設計、開發和部署。透明度、問責制和公平性是負責任的 AI 的關鍵原則。
資料隱私是一個需要考慮的重要問題。在建構 AI 系統時，必須遵守資料隱私規則，以及保護敏感資訊免受不必要的存取或濫用的保護措施。組織必須獲得使用者對資料收集和使用的同意，並提供 AI 模型如何做出選擇的透明度。此外，組織應建立監控和稽核 AI 系統的機制，以發現並減輕任何倫理風險或不受歡迎的後果。
衡量和演示 ROI
最終，任何 AI 專案的成功都取決於其產生可量化的投資回報 (ROI) 的能力。然而，確定 AI 專案的 ROI 可能很困難，尤其是在利益無形或長期時。組織必須為其 AI 專案建立明確的目標和指標，並定期追蹤進度和衡量結果。這需要透徹了解 AI 預期將交付的業務價值以及達到該價值所需的資源。
此外，向利害關係人溝通 AI 的好處對於獲得支持和建立對 AI 投資的信心至關重要。這可能涉及呈現使用案例、展示早期的勝利以及量化 AI 對基本業務指標的影響。為了成功量化和展示 AI 的 ROI，企業必須創建一個定義明確的衡量績效框架，並向利害關係人清楚地表達價值主張。
AI 採用的未來：平衡的觀點
Ivan Zhang 的見解強調了對 AI 採用採取平衡方法的重要性，該方法既承認該技術的潛力，同時又立足於實際現實。隨著 AI 不斷發展，公司需要專注於建構交付有形 ROI 的解決方案、解決倫理問題並無縫整合到現有工作流程中。透過優先考慮業務問題而不是華而不實的解決方案，並將 AI 視為工具箱中的工具，組織可以釋放 AI 的真正潛力並推動有意義的業務成果。