Adakah berat terbuka dan boleh saya jalankan ini secara tempatan?

Ya, berat BF16 ada di Hugging Face di bawah Lesen OpenMDW v1.1 dan dibenarkan untuk kegunaan komersial. Satu H100 80GB atau A100 80GB boleh mengendalikan, walaupun untuk perkakasan pengguna anda mahu varian NVFP4 atau GGUF yang dirujuk NVIDIA secara berasingan.

Berapa kos dan berapa besar tetingkap konteks?

Melalui API ia $0.07 setiap sejuta token input dan $0.20 setiap sejuta token output. Konteks adalah 256K token pada satu H100; seni bina menyokong sehingga 1M token pada set up multi-GPU Blackwell.

Bagaimana pelepasan BF16 ini berbeza daripada pelepasan NVFP4?

Pelepasan BF16 adalah penanda aras ketepatan penuh, bertujuan untuk kerja selepas latihan seperti SFT, RL, distilasi, dan menghasilkan varian kuantisasi anda sendiri. Pelepasan NVFP4 adalah yang disyorkan NVIDIA untuk inferens dioptimumkan dan pelaksanaan latensi rendah.

▲

59.6%

minggu ini

Nemotron 3.5 Lightning

8980°

#llm #nvidia #penalaran #ejen #tempatan #konteks panjang

Bulan ini

Jalankan model ini

Tawaran / Iklan

OpenRouter Terminal / API

Bayar setiap token

Bual dengan model ini dalam pelayar atau panggil ia dari kod anda dengan satu kunci API.

NVIDIA | konteks token 262,144 | $0.07/M input, $0.20/M output. NVIDIA Nemotron 3.5 Lightning adalah model campuran-pakar terbuka dari NVIDIA, dengan 3B parameter aktif daripada 30B keseluruhan. Ia sesuai untuk beban kerja agen berkelajuan tinggi dan tugas khusus yang mendapat manfaat daripada penyesuaian domain khusus.

Panduan untuk model ini

Ollama vs LM Studio (2026): aplikasi AI tempatan mana yang patut digunakan, dan model teratas yang dijalankan oleh setiap satu

LLM tempatan terbaik mengikut kegunaan (Oktober 2026): model terbuka yang sesuai untuk setiap kerja

Berat terbuka vs sumber terbuka vs hanya API: apa yang sebenarnya kamu dibenarkan lakukan

Apakah fail GGUF? Model kuantisasi diterangkan (Q4, Q8, fp8, NF4)

Berapa banyak VRAM yang saya perlukan untuk AI tempatan?

Cara Pasang Ollama dan Jalankan AI Tempatan (Windows, Mac, Linux)

Semua panduan

Nota Kapten

Ditulis oleh Captain, editor rumah

Nota dari 2026-10-13

Nemotron 3.5 Lightning adalah model campuran-pakar 30B dari NVIDIA dengan hanya 3B parameter aktif semasa inferens, dibina atas seni bina hibrid Mamba-2, MoE, dan Attention. Pelepasan BF16 di sini adalah penanda aras rujukan — titik permulaan yang tepat untuk penalaan halus, distilasi, atau membina varian kuantisasi anda sendiri, bukan laluan terpantas ke pengeluaran. Berat terbuka, penggunaan komersial dibenarkan, dan tetingkap konteks 256K pada satu H100.

Dikenali untuk

Kecekapan MoE: 30B parameter keseluruhan, hanya 3B aktif setiap laluan ke hadapan
Seni bina hibrid menggabungkan lapisan Mamba-2, MoE, dan Attention
Mod penalaran boleh dikonfigurasikan — togol pemikiran hidup/mati semasa inferens
Direka sebagai asas penalaan halus dan distilasi, bukan sekadar titik akhir sembang
Menyokong enam bahasa termasuk Inggeris, Sepanyol, Perancis, Jerman, Itali, Jepun

Berhati-hati dengan

Pelepasan BF16 ini untuk kerja penyesuaian; untuk perkhidmatan latensi rendah, NVIDIA mengarahkan anda ke varian NVFP4.
Pelaksanaan satu H100 disahkan untuk 256K token; mencapai 1M memerlukan multi-GPU atau perkakasan Blackwell.
Berat terbuka tetapi di bawah Perjanjian Lesen OpenMDW v1.1 — bukan lesen Apache atau MIT standard; semak terma.

Terbaik untuk

Ejen dan penggunaan alat

Penalaran

Jalankan secara tempatan

Konteks panjang

Banyak bahasa

Arahan untuk cuba

Togol penalaran pada masalah

Anda menyelesaikan masalah logistik. Sebuah gudang menghantar pesanan dalam kumpulan 12. Ia mempunyai 500 unit produk A dan menerima 75 pesanan baru setiap hari. Setiap pesanan meminta 3 unit. Berapa hari penuh stok akan habis, dan pada hari mana kumpulan lengkap terakhir dihantar? Tunjukkan penalaran anda langkah demi langkah.

Persediaan penalaan domain

Saya sedang menyediakan dataset penalaan halus terarah untuk pembantu semakan dokumen undang-undang. Tulis 5 pasangan arahan-respons berkualiti tinggi di mana arahan meminta model mengenal pasti jenis klausa tertentu dalam petikan kontrak, dan respons mengenal pasti klausa itu, memetik teks berkaitan, dan menerangkan kepentingannya dalam bahasa Inggeris mudah.

Pecahan tugasan agen

Anda adalah agen dengan akses kepada alat carian web, alat pelaksanaan kod, dan alat penulisan fail. Seorang pengguna mahu laporan mingguan tentang harga pesaing untuk tiga produk SaaS. Pecahkan ini kepada urutan panggilan alat dan sub-tugas konkrit, nyatakan apa yang setiap panggilan ambil atau kira dan bagaimana outputnya disalurkan ke laporan akhir.

Bandingkan dengan

Nemotron 3 Ultra
Model berat terbuka
konteks 262,144 token · Input $0.60/M, output $2.40/M
Nemotron 3 Super
Model berat terbuka
konteks 262,144 token · Input $0.08/M, output $0.45/M
NVIDIA Nemotron 3 Ultra 550B A55B
Model berat terbuka
konteks 262,144 token · Input $0.50/M, output $2.20/M
Nemotron 3.5 Content Safety
Model berat terbuka
konteks 131,072 token · Input $0.20/M, output $0.20/M

Lebih banyak model teks dari nvidia

Soalan yang sering ditanya

Adakah berat terbuka dan boleh saya jalankan ini secara tempatan?: Ya, berat BF16 ada di Hugging Face di bawah Lesen OpenMDW v1.1 dan dibenarkan untuk kegunaan komersial. Satu H100 80GB atau A100 80GB boleh mengendalikan, walaupun untuk perkakasan pengguna anda mahu varian NVFP4 atau GGUF yang dirujuk NVIDIA secara berasingan.
Berapa kos dan berapa besar tetingkap konteks?: Melalui API ia $0.07 setiap sejuta token input dan $0.20 setiap sejuta token output. Konteks adalah 256K token pada satu H100; seni bina menyokong sehingga 1M token pada set up multi-GPU Blackwell.
Bagaimana pelepasan BF16 ini berbeza daripada pelepasan NVFP4?: Pelepasan BF16 adalah penanda aras ketepatan penuh, bertujuan untuk kerja selepas latihan seperti SFT, RL, distilasi, dan menghasilkan varian kuantisasi anda sendiri. Pelepasan NVFP4 adalah yang disyorkan NVIDIA untuk inferens dioptimumkan dan pelaksanaan latensi rendah.

Keputusan Kapten
Asas penalaan halus serius dengan seni bina MoE yang bijak — gunakan apabila anda perlu menyesuaikan, bukan hanya untuk titik akhir sembang.

Kad model di Hugging Face

Kapten menulis nota ini berdasarkan penerangan model dan kad model itu sendiri. Harga dan saiz konteks adalah dari penyedia pada masa penulisan dan boleh berubah.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Also ranked: #54 Hottest AI model · #29 Hottest Text / LLM model · #29 Hottest Text / LLM text model

Not this creator?

Get your own badge

Trend populariti Nemotron 3.5 Lightning

Skor panas sejak 11 Aug 2026

Skor haba

8,980°

Minggu ini

▲

59.6%

8,919° dulu, 8,980° sekarang

Bulan ini

▲

1,079%

8,656° dulu, 8,980° sekarang

Tahun lalu

n/a

Belum dikeluarkan/dipantau

7,000°

Lantai

Skala berjalan dari 0° hingga 9,999°. Apa sahaja di bawah 7,000° disimpan untuk model yang belum dilaporkan oleh mana-mana sumber, yang membawa nombor gantian di situ supaya senarai tetap lengkap. 7,000° adalah tempat data yang diukur bermula: model dengan data sebenar tapi hampir tiada muat turun berada di lantai, dan ukuran mengisi darjah di atasnya. Lantai tidak memberitahu apa-apa tentang model; hanya darjah di atasnya yang buat beza antara satu model dengan model lain.

+1,656°

Token OpenRouter

3,296,276,417,858 token diproses oleh model ini melalui OpenRouter dalam 30 hari terakhir, termasuk arahan dan jawapan. Setiap 10,000,000 token dikira sebagai satu muat turun dalam tempoh muat turun, 329,627 semuanya; token hari terakhir disertakan dalam kadar penggunaan. Sumber: OpenRouter (openrouter.ai/rankings).

+324°

Kadar penerimaan

Kira-kira 21,182 muat turun sehari, diukur antara dua bacaan sumber, tidak pernah dianggarkan dari purata sepanjang hayat. Kelajuan seberat suku istilah muat turun, jadi lonjakan baru kelihatan tanpa membiarkan lonjakan satu hari mengatasi penggunaan bertahun-tahun.

Tunjukkan pecahan terperinci

Setiap nombor di laman ini boleh diperiksa. Skor panas model ini adalah 8,980°, dan ia dibina satu bahan pada satu masa, dengan jumlah terkini selepas setiap langkah: lantai, darjah yang ditambah oleh setiap sumber, bonus untuk jenis model dan apa yang umur beratnya tolak. Warna-warna itu adalah jalur carta di atas. Glosari di akhir menerangkan setiap istilah.

1
Mula di lantai.
Kenapa 7,000° dan bukan sifar: skala dari 0° hingga 9,999°, dan bahagian di bawah 7,000° dikhaskan untuk model yang belum dilaporkan oleh mana-mana sumber, yang membawa nombor gantian supaya senarai tetap lengkap dan tidak pernah mengatasi model dengan data. 7,000° adalah tempat data yang diukur bermula. Model dengan data sebenar tapi hampir tiada muat turun berada di sini; semua yang berikut adalah ukuran, dan ruang di atas lantai ada sepuluh langkah muat turun sepuluh kali ganda pada 300° setiap satu. Lantai sama untuk setiap model, jadi ia tidak tentukan apa-apa; darjah di atasnya yang buat beza.
7,000°
jumlah berjalan
2
Tambah muat turun.
329,627 muat turun setara semuanya, dari Token OpenRouter. Sepuluh kali muat turun menambah 300° yang sama, jadi saiz penting tapi tidak pernah mengatasi skor.
+1,656°
8,656°
jumlah berjalan
3
Tambah kadar penerimaan.
Sekitar 21,182 muat turun sehari sekarang, diukur antara dua bacaan, dengan berat suku.
+324°
8,980°
jumlah berjalan
=
Skor heat.
Di mana model ini berdiri dalam setiap senarai laman ini. Tiada yang lain mengubahnya.
8,980°

Glosari: istilah yang digunakan di sini

Skor heat: Satu nombor untuk seberapa banyak model digunakan dan diingini sekarang, dari 0° hingga 9,999°. Setiap senarai di laman ini yang kata paling panas disusun mengikutnya dan tiada yang lain.
Lantai: 7,000° yang setiap model dengan data sebenar bermula. Skala dari 0° hingga 9,999°; bahagian bawah lantai untuk pengganti (model tanpa data), supaya model dengan data sentiasa lebih tinggi dari yang tiada. Lantai sama untuk semua dan tidak tentukan apa-apa; darjah di atasnya adalah ukuran.
Setara muat turun: Semua yang skor anggap sebagai muat turun, dijumlahkan: muat turun sendiri, setiap torrent seeder sebagai 1,000, setiap imej AI Horde dan setiap larian di laman generasi sebagai satu.
Skala log: Mengira dengan puluhan, bukan satuan: dari 1,000 ke 10,000 muat turun tambah darjah sama seperti dari 10,000 ke 100,000. Ini elak gergasi menindas yang lain.
Suka: Jempol dan suka dari semua sumber, bernilai separuh muat turun pada skala log.
Kadar penerimaan: Berapa banyak muat turun sehari model dapat sekarang, dari beza dua bacaan sumber. Berat suku dari terma muat turun.
Diukur dan dianggarkan: Diukur bermaksud ada dua bacaan dari satu sumber dan perbezaannya adalah nyata. Dianggarkan bermaksud hanya jumlah hari ini yang diketahui dan masa lalu diagihkan sepanjang hayat model; laman web akan memberitahu yang mana satu ia tunjukkan.
Seeder: Seseorang yang menyimpan salinan berat secara dalam talian untuk dimuat turun oleh orang lain melalui torrent, atau cermin yang dihoskan melakukan perkara yang sama. Setiap satu dikira sebagai 1,000 muat turun.
AI Horde: Rangkaian sukarelawan yang menjana imej secara percuma pada komputer yang didermakan. Bilangan imej yang telah dihasilkan dengan model adalah awam, dan setiap satu dikira sebagai satu muat turun.
Laman penjanaan: Laman yang menghoskan salinan model mereka sendiri dan membenarkan orang menjana dengannya, seperti PixAI, SeaArt dan Yodayo. Muat turun mereka dikira seperti Civitai dan setiap sesi penjanaan dikira sebagai satu muat turun.
Token OpenRouter: Model teks yang disediakan melalui API, seperti Claude atau GPT, tidak mempunyai berat untuk dimuat turun, jadi penggunaannya diukur dalam token: bahagian teks yang dibaca dan ditulis melalui OpenRouter, pintu masuk yang digunakan oleh banyak aplikasi, dalam 30 hari terakhir. Setiap 10,000,000 token dikira sebagai satu muat turun. Sumber: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Model penuh (checkpoint): Berat itu sendiri, fail yang menjana secara sendiri. Ia mendapat bonus kerana add-on bergantung padanya.
LoRA dan embedding: Fail add-on kecil yang mengarahkan berat orang lain ke arah gaya, watak atau konsep. Ia tidak boleh dijalankan sendiri.
Keluarga dan berat: Asas yang model dibina, seperti SD 1.5, SDXL, Flux atau Wan. Setiap model mewarisi tarikh keluaran berat keluarganya.
Umur: Darjah yang ditolak berdasarkan berapa lama berat keluarga itu dikeluarkan: 150° setahun, sehingga 750°. Ia mengekalkan muat turun lama yang mempunyai masa bertahun-tahun untuk terkumpul dengan membekukan di bahagian atas senarai.
Peningkatan keluarga: Dorongan kecil dan terhad untuk LoRA dari keluarga yang laman ini sedang galakkan sekarang, sentiasa disenaraikan dalam pecahan.
Skor gantian: Nombor stabil di bawah paras yang diberikan kepada model yang belum ada laporan sumber, supaya senarai kekal lengkap. Ia tidak pernah mendahului model yang ada data.
Baru! (tempoh kelonggaran): Model yang berumur kurang dari 7 hari menunjukkan Baru! dan tidak mempunyai skor serta tidak menduduki tempat dalam kedudukan. Skornya dikira dari hari pertama, tetapi model yang berumur satu hari berkembang lebih cepat daripada apa pun, jadi tanpa menunggu, #1 minggu ini akan sentiasa menjadi apa sahaja yang keluar semalam dan bukan yang bertahan selama seminggu.
Trend: Bagaimana pertumbuhan model dalam tempoh tertentu dibandingkan dengan pertumbuhan model biasa dalam tempoh yang sama. Lebih cepat dari biasa bermaksud naik, lebih perlahan bermaksud turun.
Model biasa: Tengah katalog: separuh model dengan angka tumbuh lebih cepat dalam tempoh itu, separuh lagi lebih perlahan.

Bagaimana populariti model ini bergerak berbanding katalog lain: pertumbuhannya dalam muat turun, suka dan penggunaan setiap tempoh, diukur berbanding pertumbuhan model biasa dalam tempoh yang sama, dengan skor panasnya pada masa itu. Di atas pertumbuhan biasa dibaca sebagai kenaikan, di bawahnya sebagai penurunan. Masa lalu dibina semula dari jumlah hari ini, hari pertama model dan kelajuan muat turun yang diukur jika ada dua bacaan; model yang tidak wujud pada permulaan tempoh menunjukkan n/a.

Model serupa

Llama 3.1 70B Instruct

Command R7B (12 2024)

TEXT / LLM

Model AI untuk penjanaan imej, video dan teks

Nemotron 3.5 Lightning ialah model teks untuk keluarga Text / LLM yang disenaraikan di ModelTrends.ai, katalog baca sahaja untuk model AI imej, video dan teks sumber terbuka. Bandingkannya dengan model Text / LLM lain dan semak skor habanya untuk melihat trendnya.

Lagi model Text / LLM Lagi Teks / LLM Text / LLM llm nvidia penalaran ejen tempatan konteks panjang banyak bahasa

Layari mengikut keluarga model