Mistral AI是一家位於巴黎、在生成式人工智慧 (GenAI) 領域冉冉升起的新星，其正策略性地利用開源原則和以企業為中心的 AI 解決方案，來推動其快速擴張。該公司的執行長兼共同創辦人 Arthur Mensch 最近在新加坡舉行的 ATxSummit 上分享了他的見解，概述了 Mistral AI 如何巧妙地平衡其對開源的承諾與企業市場的需求，為企業提供適應性強、高效率的 AI 工具，並擴大其全球足跡。
在與新加坡資訊通信媒體發展局 (Infocomm Media Development Authority) 執行長 Lew Chuen Hong 的討論中，Mensch 詳細闡述了 Mistral AI 的使命：賦予企業和政府能夠在內部進行客製化和控制的 AI 技術，從而減少對外部實體的依賴。這個願景由前 Meta 和 Google 的研究人員於 2023 年 4 月創立 Mistral AI 所主導，其基於 AI 應該是可訪問且可客製化的信念。
開源的優勢
Mistral AI 在成立僅四個月後，便透過發布其第一個模型進軍開源領域。根據 Mensch 的說法，這個戰略舉措對於取得早期成功至關重要。該模型能夠在筆記型電腦上有效運作，引起了使用者的共鳴，並將其標誌為一項開創性的成就。從那時起，Mistral AI 始終堅定地致力於開源，持續發布越來越強大的模型。
Mensch 強調，擁抱開源的決定帶來了顯著的商業優勢，證明了強大的 AI 功能可以部署在組織自己的硬體上，也可以部署在私有雲環境中，同時保留對資料的完全控制權。這種能力改變了人們對 AI 技術的看法，突顯了本機部署和更大自主性的優勢。
平衡開源與營利
然而，開源理想與營利策略的交集提出了一個複雜的挑戰。Mistral AI 透過仔細平衡開源社群的需求與其自身的商業目標來應對這個問題。Mensch 承認了固有的權衡，強調了該公司致力於為開源使用者提供有價值的模型，推動創新並促進協作研究。
為了將其創新商業化，Mistral AI 採用了各種策略。這些策略包括提供透過應用程式介面 (API) 訪問的公有雲服務，使客戶能夠開發 AI 代理程式並將其連接到不同的資料來源。此外，Mistral AI 提供一個可以部署在氣隙環境中的平台，確保安全性和隔離性。全方位產品，例如 Le Chat，一個為工作和個人使用量身定制的 AI 助理，進一步貢獻了公司的收入來源。
企業合作：核心業務
雖然開源貢獻和雲端服務發揮了作用，但 Mensch 強調 Mistral AI 的大部分收入來自企業合作。在這些合作中，Mistral AI 協助企業部署 AI 應用程式，與製造、物流、生物科技和金融服務等行業的公司密切合作。重點是識別關鍵用例，並整合 AI 解決方案以快速交付具體的商業價值。
效率至上
Mistral AI 方法的核心是對模型效率的承諾，同時不影響效能。Mensch 解釋說，該公司的核心洞察力是，將更多的計算資源投入到知識壓縮中，可以產生更小、更高效的模型。這至關重要，因為模型大小直接影響延遲，這是許多應用程式的一個關鍵考慮因素。
在使用大型語言模型 (LLM) 建立應用程式時，速度至關重要。更快的模型能夠執行更複雜的任務和推理能力，同時保持可接受的延遲。這種效率對於需要即時回應的應用程式尤其重要。
混合系統的興起
Mensch 還注意到一種日益增長的趨勢，即混合系統將邊緣運算與雲端資源相結合。在這種模式中，較簡單的任務在本地邊緣處理，而計算量更大的任務則卸載到雲端。筆記型電腦計算能力的不斷提高，以及較小模型（例如 240 億參數模型）的有效性，使本地 AI 代理程式能夠有效地執行諸如編碼之類的任務。
企業 AI 部署的實用建議
對於希望有效利用 AI 的企業，Mensch 建議從 AI 助理開始，以提高生產力。在此之後，組織應識別適合自動化的流程。這需要設計自訂的 AI 系統，以協調複雜的流程，並根據需要納入人工輸入。
Mensch 建議，代理程式應在流程層面運作，從流程迴圈中的人員收集輸入，而不是依靠人員來觸發 AI 代理程式。這種方法允許組織逐步將人力資源重新分配到仍然需要人類專業知識的任務。
代理程式 API：簡化協調
為了促進 AI 代理程式的開發和部署，Mistral AI 最近推出了一個代理程式 API，允許使用者連接工具、網路搜尋和程式碼執行器。公司管理協調，簡化了開發人員的流程。
Mensch 解釋說，越來越多的協調將由 Mistral AI 在伺服器端進行管理。這包括管理權杖以及處理身份驗證和權限，這些操作的實施和維護可能既複雜又耗時。目標是提供一個可自行部署的平台，以簡化 AI 的開發和部署。
解決 AI 安全問題
AI 安全，尤其是在 AI 代理程式的背景下，是一個至關重要的問題。Mensch 強調了沙箱化已執行程式碼以及將所有外部輸入視為潛在不安全輸入的重要性。他還強調需要進行審核和評估，以確保 AI 系統按預期運作。
Mensch 指出，AI 模型中固有的隨機性需要仔細管理。透過監控和控制輸入，Mistral AI 能夠確保其系統以足夠的準確度運作。
擴展到亞太地區
Mistral AI 最近擴展到新加坡，突顯了其在亞太地區日益增長的雄心。該地區的政府和企業越來越有興趣採用主權 AI 解決方案，以盡量減少對可能受到限制的技術的依賴。
Mensch 強調，Mistral AI 出售其軟體，並確保其客戶和合作夥伴可以訪問，即使公司消失也能保證連續性。這種對主權和戰略自主的強調在歐洲尤其重要，並且在亞太地區越來越受到關注，從而推動了 Mistral AI 在該地區的快速發展。核心技術的戰略自主至關重要，這在歐洲和亞太地區至關重要，解釋了公司指數級的成長。
主要收穫
- 開源作為成長動力： Mistral AI 對開源的承諾一直是其成功的關鍵因素，有助於擴大採用並培養協作環境。
- 企業專注於營利： 在擁抱開源的同時，Mistral AI 專注於企業合作以推動收入，為各種行業提供客製化的 AI 解決方案。
- 效率與效能： 該公司優先考慮模型效率，同時不犧牲效能，從而實現更快、更靈敏的 AI 應用程式。
- 混合系統： 混合系統的興起，將邊緣運算與雲端資源相結合，為 AI 部署提供了新的可能性。
- 實用部署策略： 企業應從 AI 助理開始，並識別適合自動化的流程，以最大限度地提高 AI 的效益。
- 代理程式 API 簡化協調： Mistral AI 的代理程式 API 簡化了 AI 代理程式的開發和部署，從而簡化了協調。
- 解決安全問題： 該公司認真對待 AI 安全，強調沙箱、審核和評估的重要性。
- 亞太地區擴張： Mistral AI 擴展到新加坡突顯了其在亞太地區日益增長的雄心，這受到對主權 AI 解決方案的需求所推動。
- 模型大小在任何 AI 應用程式中都很重要，因為模型越大，延遲就越高。
- Mistral AI 正在與製造、物流、生物科技和金融服務公司合作，以確定最重要的用例並進行整合工作，從而快速交付價值。