英偉達發布Nemotron係列大語言模型 欲推動代理式AI加速崛起

21世紀經濟報道記者白楊 北京報道

在今日召開的CES 2025大會上，英偉達創始人兼CEO黃仁勳發布了全新的 Llama Nemotron係列大語言模型。

黃仁勳表示，人工智能正在進入一個新時代——代理式人工智能（agentic AI），專業的AI代理可以幫助人們解決複雜問題並自動執行重複性任務。

他進一步表示，借助定製的 AI 代理，各行各業的企業都可以實現前所未有的生產力。然而，這些先進的 AI 代理需要一套針對代理 AI 功能和能力進行優化的多個生成式 AI 模型係統。這種複雜性意味著對強大、高效的企業級模型的需求從未如此強烈。

英偉達此次推出的Llama Nemotron模型，有Nano、Super和Ultra三個不同版本。其中，Nano是最具成本效益、低延遲的模型，適合在PC和邊緣設備上部署。

Super是一種高精度模型，在平衡計算效率的同時具有更高的準確性；而Ultra是最高精度模型，專為要求最高性能的數據中心規模應用而設計。

黃仁勳稱，這些模型基於Llama 構建，可幫助開發人員在一係列應用程序中創建和部署AI代理，包括客戶支持、欺詐檢測以及產品供應鏈和庫存管理優化。

在性能上，Llama Nemotron模型經過精簡和訓練，采用了英偉達的最新技術和高質量數據集。它們在指令跟蹤、聊天、函數調用、編碼和數學方麵表現出色，同時進行了大小優化，可在英偉達廣泛的加速計算資源上運行。

據黃仁勳介紹，Llama Nemotron模型係列將以可下載模型和NVIDIA NIM微服務的形式提供，可輕鬆部署在雲端、數據中心、PC 和工作站上。

企業還可以使用 NVIDIA NeMo 微服務針對其特定用例和領域定製模型，以簡化數據管理、加速模型定製和評估。同時，借助NVIDIA NeMo Retriever，開發人員可以集成檢索增成功能，將模型連接到他們的企業數據。