NVIDIA與法國初創公司Mistral AI近日聯手發佈了一款全新的AI語言模型——Mistral-NeMo。這款模型擁有120億個參數以及12.8萬個token的上下文窗口，主要針對企業環境設計，目標是讓企業在無需大量雲端資源的情況下，也能夠實施高效的人工智能解決方案。
InfoAI智能情報 ｛ 新聞 }
模型特點與優勢
Mistral-NeMo模型結合了Mistral AI在訓練數據方面的專業知識與NVIDIA在硬體和軟體方面的優勢。該模型能夠處理多語言任務、編碼、摘要以及多輪對話等，並且針對企業應用進行了優化，提供了高性能、靈活性以及企業級的支持和安全保障 。
這款模型採用了NVIDIA的DGX Cloud AI平台進行訓練，使用了3,072個H100 80GB Tensor Core GPU，並應用了Megatron-LM技術進行加速訓練，從而提高了模型的效能 。此外，Mistral-NeMo採用了FP8數據格式進行推理，減少了內存需求並加速了部署速度，無損準確性 。
市場影響與應用前景
Mistral-NeMo的推出被視為AI軟體市場的一次重大變革。這款模型可以在本地硬體上高效運行，特別適合那些對數據隱私、低延遲以及成本控制有高需求的企業。這一特點使得中小企業也能夠享受到此前只有大企業才能承擔的高階AI能力，從而可能重新定義企業AI的部署模式 。
NVIDIA與Mistral AI的合作不僅是技術上的突破，也是市場策略上的重要舉措。通過釋放這款能在本地設備上運行的強大模型，他們希望能夠讓更多企業利用AI技術來提升業務效率與創新能力，進一步推動AI技術在各行各業的應用 。
未來展望
隨著Mistral-NeMo的推出，企業在實施AI解決方案方面的選擇將變得更加靈活和多樣化。這一模型的出現，不僅滿足了企業對於高效能和低成本AI解決方案的需求，也展示了未來AI技術在本地化部署方面的巨大潛力。
未來，隨著更多企業開始嘗試和應用Mistral-NeMo，我們將看到AI技術如何進一步融入企業的日常運營，並在提升效率、創新能力以及市場競爭力方面發揮更大的作用 。
法國初創公司Mistral AI簡介
Mistral AI是一家位於法國的新興初創公司，專注於開發先進的人工智能技術。公司由多位在AI領域有豐富經驗的專家共同創立，致力於通過創新的AI解決方案來解決企業和社會面臨的各種挑戰。Mistral AI以其在多語言處理和高效訓練技術方面的專業知識而聞名，並與全球領先的科技公司合作，共同推動AI技術的發展和應用 。
InfoAI，給你駕馭AI的知識和技能，成為AI時代的專家與達人。
InfoAI智能情報：助你駕馭AI創造新價值
www.InfoAI.com.tw