Nemotron 3.5 Lightning
8980°
NVIDIA | 262,144 代幣上下文 | 輸入 $0.07/M,輸出 $0.20/M。NVIDIA Nemotron 3.5 Lightning 是 NVIDIA 的開放混合專家模型,擁有 30B 總參數中 3B 啟用參數。適合高吞吐量代理工作負載及受益於領域特定定制的專業任務。
本模型的指南

Ollama vs LM Studio (2026):該用哪個本地 AI 應用程式,以及各自支援的頂級模型

2026年10月最佳本地大型語言模型(LLM)按使用情境分類:每個工作都適合的開放模型
開放權重、開源與僅API:你到底能做什麼
什麼是 GGUF 檔案?量化模型解說(Q4、Q8、fp8、NF4)
我到底需要多少 VRAM 才能在本地跑 AI?

如何安裝 Ollama 並在本地運行 AI(Windows、Mac、Linux)
船長筆記
2026-10-13 的筆記
Nemotron 3.5 Lightning 是 NVIDIA 推出的 300 億參數混合專家模型,推論時僅啟用 30 億參數,基於混合 Mamba-2、MoE 與注意力架構。此 BF16 版本為參考檢查點,是微調、蒸餾或自製量化版本的理想起點,而非最快的生產路徑。權重開放,允許商業使用,單張 H100 支援 256K 字元上下文。
以...聞名
- MoE 效率:總參數 300 億,推論時每次僅啟用 30 億
- 混合架構結合 Mamba-2、MoE 層與注意力機制
- 可配置推理模式 — 推論時可切換思考開關
- 設計為微調與蒸餾基底,不僅是聊天端點
- 支援英語、西班牙語、法語、德語、義大利語與日語六種語言
注意
- 此 BF16 版本適合自訂開發;NVIDIA 建議低延遲服務使用 NVFP4 版本。
- 單張 H100 部署驗證可達 256K 字元;達到 1M 字元需多 GPU 或 Blackwell 硬體。
- 權重開放但採用 OpenMDW License Agreement v1.1,非標準 Apache 或 MIT 授權,請詳閱條款。
可嘗試的提示詞
切換推理模式解題
你正在解決一個物流問題。倉庫以 12 件為一批出貨。現有 500 件產品 A,每天接收 75 筆新訂單,每筆訂單需 3 件。請問庫存可支撐多少完整天數?最後一批完整出貨是在第幾天?請逐步說明推理過程。
領域微調準備
我正在準備法律文件審查助理的監督式微調資料集。請撰寫 5 組高品質指令-回應對,指令要求模型辨識合約摘錄中特定條款類型,回應則辨識該條款、引用相關文字,並以白話解釋其重要性。
代理任務拆解
你是一個代理,能使用網路搜尋工具、程式碼執行工具與檔案寫入工具。用戶想要每週報告三款 SaaS 產品的競爭者定價。請將此任務拆解為具體的工具呼叫與子任務,說明每次呼叫取得或計算的內容,以及如何將輸出整合成最終報告。
比較
- Nemotron 3 Ultra開放權重模型262,144 代幣上下文 · $0.60/M 輸入,$2.40/M 輸出
- Nemotron 3 Super開放權重模型262,144 代幣上下文 · $0.08/M 輸入,$0.45/M 輸出
- NVIDIA Nemotron 3 Ultra 550B A55B開放權重模型262,144 代幣上下文 · $0.50/M 輸入,$2.20/M 輸出
- Nemotron 3.5 Content Safety開放權重模型131,072 代幣上下文 · $0.20/M 輸入,$0.20/M 輸出
更多來自 nvidia 的文字模型
常見問題
- 權重是開放的嗎?我可以本地執行嗎?
- 是的,BF16 權重已於 Hugging Face 以 OpenMDW License v1.1 授權開放,允許商業使用。單張 H100 80GB 或 A100 80GB 可執行,但消費級硬體建議使用 NVIDIA 另行推薦的 NVFP4 或 GGUF 版本。
- 費用與上下文視窗大小為何?
- API 價格為每百萬輸入字元 0.07 美元,輸出字元 0.20 美元。單張 H100 支援 256K 字元上下文;架構支援多 GPU Blackwell 硬體達 1M 字元。
- BF16 版本與 NVFP4 版本有何不同?
- BF16 版本為全精度參考檢查點,適合後續訓練工作如 SFT、RL、蒸餾及自製量化版本。NVFP4 版本則為 NVIDIA 推薦的優化推論與低延遲部署版本。
船長評語一款具巧思 MoE 架構的嚴肅微調基底 — 需要自訂時選用,不適合只想聊天的使用者。
Hugging Face 上的模型卡
船長根據模型自身描述與模型卡撰寫這些筆記。價格與上下文大小為撰寫時提供者資料,可能會變動。
Ranking badge
Updated Oct 22, 2026
Made this model? Show this badge on your page.
Paste it into your Hugging Face card or Civitai description.
Also ranked: #54 Hottest AI model · #29 Hottest Text / LLM model · #29 Hottest Text / LLM text model
Not this creator?
Get your own badge
Nemotron 3.5 Lightning 熱度趨勢
熱度分數,自 11 Aug 2026 起
熱度分數
8,980°
本週
▲
59.6%
8,919° 當時,8,980° 現在
本月
▲
1,079%
8,656° 當時,8,980° 現在
過去一年
n/a
尚未發布/追蹤
7,000°
基準值
分數範圍是從 0° 到 9,999°。低於 7,000° 的部分是留給還沒被任何來源報告的模型,它們會有一個替代數字,讓列表保持完整。7,000° 是有測量數據開始的地方:有真實數據但幾乎沒下載的模型會在基準值,之後的度數才是測量結果。基準值本身不代表模型好壞,只有基準值以上的度數才會區分模型。
+1,656°
OpenRouter 代幣
此模型在過去30天內透過 OpenRouter 處理了 3,296,276,417,858 代幣,包含提示和回答。每 10,000,000 代幣算作一次下載,共 329,627 次;最後一天的代幣會加入採用率。來源:OpenRouter (openrouter.ai/rankings)。
+324°
採用率
大約每天 21,182 次下載,根據兩次來源讀取間的變化計算,不是用整個生命週期平均。速度佔下載項目的四分之一,能反映新熱潮,但不會讓一天的爆量超過多年累積。
顯示詳細分析
這個網站上的每個數字都可以查證。這個模型的熱度分數是 8,980°,這裡會一步步拆解它的組成,每加一項就會顯示目前的總分:基準值、每個來源增加的度數、模型類型的加分,以及權重年齡帶來的扣分。顏色對應上方圖表的區間。最後的詞彙表會解釋每個術語。
- 1從基準值開始。為什麼是 7,000° 而不是零:分數範圍是 0° 到 9,999°,低於 7,000° 的部分是留給還沒被任何來源報告的模型,它們有替代數字,讓列表完整且不會超過有數據的模型。7,000° 是有測量數據開始的地方。有真實數據但幾乎沒下載的模型會在這裡;之後的度數是測量結果,基準值以上有十個十倍下載的階段,每階段增加 300°。基準值對所有模型都一樣,不會決定排名;真正區分模型的是基準值以上的度數。7,000°累計總和
- 2加入下載量。總共 329,627 個下載等值,來自 OpenRouter 代幣。下載量增加十倍會增加相同的 300°,所以大小很重要,但不會主導分數。+1,656°8,656°累計總和
- 3加入採用率。目前大約每天 21,182 次下載,根據兩次讀取間的差異計算,權重是下載量的四分之一。+324°8,980°累計總和
- =熱度分數。這個模型在本網站所有排行榜上的位置。沒有其他因素會調整它。8,980°
詞彙表:這裡使用的術語
- 熱度分數
- 一個數字,表示模型目前的使用和需求程度,範圍從 0° 到 9,999°。本網站所有標示「最熱門」的排行榜都是依此排序,沒有其他排序依據。
- 底線
- 每個有實際數據的模型起始於 7,000°。分數範圍是 0° 到 9,999°;底線以下保留給沒有數據的模型,確保有數據的模型總是排名較前。底線對所有人相同,不影響排名;超過底線的度數才是評分依據。
- 下載等值
- 分數中視為下載的所有項目加總:下載本身、每個種子節點算 1,000、每張 AI Horde 圖像和每次生成網站的執行算一。
- 對數刻度
- 以十為單位計數,不是以一為單位:從 1,000 到 10,000 下載增加的度數,和從 10,000 到 100,000 增加的度數相同。這樣能防止巨頭壓過其他模型。
- 喜歡數
- 來自各來源的讚和喜歡,每個在對數刻度上算半個下載量。
- 採用率
- 模型目前每天的下載次數,根據兩次來源讀取的差異計算。權重是下載量的四分之一。
- 實測與估算
- 實測表示有兩個來源的讀數,且差異是真實的。估算表示只知道今天的總數,過去的數據則分散在模型的整個生命週期;網站會說明顯示的是哪一種。
- 種子節點
- 指在線上保留權重檔案供他人透過種子下載的人,或是提供相同服務的鏡像站。每一個種子節點算作1,000次下載。
- AI Horde
- 一個志願者網絡,利用捐贈的電腦免費生成圖片。它用某模型生成的圖片數量是公開的,每張圖片算作一次下載。
- 生成網站
- 自己托管模型並讓人使用它生成圖片的網站,例如PixAI、SeaArt和Yodayo。它們的下載量和Civitai一樣,每次生成算一次下載。
- OpenRouter 代幣
- 透過 API 提供的文字模型,如 Claude 或 GPT,沒有權重可下載,因此使用量以代幣計算:過去30天內透過 OpenRouter(許多應用使用的閘道)讀取和生成的文字片段。每 10,000,000 代幣算作一次下載。來源:OpenRouter (openrouter.ai/rankings),CC BY 4.0。
- 完整模型(檢查點)
- 權重本身,是能獨立生成的檔案。它會有額外加分,因為其他附加檔案都依賴它。
- LoRA和嵌入
- 小型附加檔案,用來引導別人的權重走向某種風格、角色或概念。它們無法獨立運行。
- 家族與權重
- 模型所建立的基礎,例如SD 1.5、SDXL、Flux或Wan。每個模型都繼承其家族權重的發布日期。
- 年齡
- 根據家族權重發布時間距今多久,扣除的度數:每年150°,最多750°。它會保留那些有多年累積下載的舊模型,防止它們從排行榜頂端消失。
- 家族加成
- 針對本站目前推廣的某個家族的LoRA給予的小幅度限制加成,會在分解中顯示。
- 替代分數
- 給尚無來源報告的模型一個穩定的最低分,讓列表保持完整。它永遠不會高於有數據的模型。
- 全新!(寬限期)
- 不到 7 天的新模型會顯示「全新!」而非分數,且不列入排名。分數從第一天開始計算,但一天大的模型成長最快,若不等待,週榜首將永遠是昨天剛出的模型,而非持續一週的。
- 趨勢
- 模型在某段時間內的成長與典型模型同期成長的比較。比典型快表示上升,比典型慢表示下降。
- 典型模型
- 目錄中的中間值:一半模型在該期間成長較快,一半較慢。
這個模型的受歡迎程度跟整個目錄相比的變化:它在每個時期的下載量、喜歡數和使用量的成長,跟同一時期一般模型的成長相比,還有當時的熱度分數。高於一般成長代表上升,低於則是下降。過去的數據是從今天的總數、模型的第一天和有兩次讀數時的下載速度推算出來的;如果模型在某時期開始時不存在,會顯示 n/a。
