Bukas ba ang weights at maaari ko bang patakbuhin ito nang lokal?

Oo, ang BF16 weights ay nasa Hugging Face sa ilalim ng OpenMDW License v1.1 at pinapayagan ang komersyal na paggamit. Kayang patakbuhin ito ng isang H100 80GB o A100 80GB, pero para sa consumer hardware, mas gusto mo ang NVFP4 o GGUF variants na hiwalay na tinutukoy ng NVIDIA.

Magkano ang presyo at gaano kalaki ang context window?

Sa API, $0.07 kada milyon na input tokens at $0.20 kada milyon na output tokens. Ang context ay 256K tokens sa isang H100; sinusuportahan ng arkitektura hanggang 1M tokens sa multi-GPU Blackwell setups.

Paano naiiba ang BF16 release sa NVFP4 release?

Ang BF16 release ay ang full-precision reference checkpoint, para sa post-training work tulad ng SFT, RL, distillation, at paggawa ng sarili mong quantized variants. Ang NVFP4 release ang inirerekomenda ng NVIDIA para sa optimized inference at low-latency deployment.

▲

59.6%

ngayong linggo

Nemotron 3.5 Lightning

8980°

#llm #nvidia #pangangatwiran #mga ahente #lokal #mahabang konteksto

Ngayong buwan

Patakbuhin ang modelong ito

Alok / Ads

OpenRouter Terminal / API

Bayad kada token

Makipag-chat sa modelong ito sa browser o tawagan ito mula sa iyong code gamit ang isang API key.

NVIDIA | 262,144 token context | $0.07/M input, $0.20/M output. Ang NVIDIA Nemotron 3.5 Lightning ay isang open mixture-of-experts model mula sa NVIDIA, na may 3B active parameters mula sa 30B total. Ito ay angkop para sa high-throughput agentic workloads at mga espesyal na gawain na nakikinabang sa domain-specific customization.

Mga gabay para sa model na ito

Ollama vs LM Studio (2026): alin ang local AI app na gagamitin, at alin ang mga top models na pinapatakbo ng bawat isa

Pinakamahusay na lokal na LLM ayon sa gamit (Oktubre 2026): ang tamang open model para sa bawat trabaho

Open weights vs open source vs API-only: ano talaga ang pwede mong gawin

Ano ang GGUF file? Ipinaliwanag ang mga quantized na modelo (Q4, Q8, fp8, NF4)

Gaano ba talaga kalaki ang VRAM na kailangan ko para sa local AI?

Paano Mag-install ng Ollama at Magpatakbo ng Lokal na AI (Windows, Mac, Linux)

Lahat ng gabay

Mga tala ng Kapitan

Isinulat ni Captain, ang editor ng bahay

Mga tala mula sa 2026-10-13

Ang Nemotron 3.5 Lightning ay isang 30B mixture-of-experts na modelo mula sa NVIDIA na may 3B parameters lamang ang aktibo sa inference, na binuo sa hybrid na Mamba-2, MoE, at Attention architecture. Ang BF16 release dito ay ang reference checkpoint — ang tamang panimulang punto para sa fine-tuning, distillation, o paggawa ng sarili mong quantized variants, hindi ang pinakamabilis na daan sa production. Bukas ang weights, pinapayagan ang komersyal na paggamit, at may 256K context sa isang H100.

Kilalang-kilala sa

MoE efficiency: 30B kabuuang parameters, 3B lamang ang aktibo kada forward pass
Hybrid architecture na pinaghalo ang Mamba-2, MoE layers, at Attention
Configurable na reasoning mode — maaaring i-toggle ang pag-iisip sa inference
Dinisenyo bilang base para sa fine-tuning at distillation, hindi lang chat endpoint
Sumusuporta sa anim na wika kabilang ang English, Spanish, French, German, Italian, Japanese

Mag-ingat sa

Ang BF16 release ay para sa customization work; para sa low-latency serving, inirerekomenda ng NVIDIA ang NVFP4 variant.
Validated ang single H100 deployment hanggang 256K tokens; para maabot ang 1M ay kailangan ng multi-GPU o Blackwell hardware.
Bukas ang weights pero nasa ilalim ng OpenMDW License Agreement v1.1 — hindi ito standard Apache o MIT license; suriin ang mga termino.

Pinakamainam para sa

Mga ahente at paggamit ng tool

Mga prompt na subukan

Toggle reasoning on a problem

Nagsosolve ka ng logistics problem. Ang warehouse ay nagpapadala ng mga order sa batch na 12. Mayroon itong 500 units ng product A at tumatanggap ng 75 bagong order araw-araw. Bawat order ay humihingi ng 3 units. Ilang buong araw bago maubos ang stock, at saang araw ipapadala ang huling kumpletong batch? Ipakita ang iyong pag-iisip hakbang-hakbang.

Domain fine-tune prep

Naghahanda ako ng supervised fine-tuning dataset para sa legal document review assistant. Gumawa ng 5 mataas na kalidad na instruction-response pairs kung saan ang instruction ay humihiling sa modelo na tukuyin ang isang partikular na uri ng clause sa excerpt ng kontrata, at ang response ay tinutukoy ang clause, kinokopya ang kaugnay na teksto, at ipinaliwanag ang kahalagahan nito sa simpleng Ingles.

Agentic task decomposition

Isa kang agent na may access sa web search tool, code execution tool, at file-write tool. Nais ng user ng lingguhang ulat sa presyo ng mga kakumpitensya para sa tatlong SaaS na produkto. Hatiin ito sa konkretong sunod-sunod na mga tawag sa tool at sub-tasks, tukuyin kung ano ang kinukuha o kinokompyut ng bawat tawag at paano pinapasok ang mga output sa panghuling ulat.

Ihambing sa

Nemotron 3 Ultra
Modelong bukas ang timbang
262,144 token na konteksto · $0.60/M input, $2.40/M output
Nemotron 3 Super
Modelong bukas ang timbang
262,144 token na konteksto · $0.08/M input, $0.45/M output
NVIDIA Nemotron 3 Ultra 550B A55B
Modelong bukas ang timbang
262,144 token na konteksto · $0.50/M input, $2.20/M output
Nemotron 3.5 Content Safety
Modelong bukas ang timbang
131,072 token na konteksto · $0.20/M input, $0.20/M output

Higit pang mga text model mula sa nvidia

Mga tanong na madalas itanong

Bukas ba ang weights at maaari ko bang patakbuhin ito nang lokal?: Oo, ang BF16 weights ay nasa Hugging Face sa ilalim ng OpenMDW License v1.1 at pinapayagan ang komersyal na paggamit. Kayang patakbuhin ito ng isang H100 80GB o A100 80GB, pero para sa consumer hardware, mas gusto mo ang NVFP4 o GGUF variants na hiwalay na tinutukoy ng NVIDIA.
Magkano ang presyo at gaano kalaki ang context window?: Sa API, $0.07 kada milyon na input tokens at $0.20 kada milyon na output tokens. Ang context ay 256K tokens sa isang H100; sinusuportahan ng arkitektura hanggang 1M tokens sa multi-GPU Blackwell setups.
Paano naiiba ang BF16 release sa NVFP4 release?: Ang BF16 release ay ang full-precision reference checkpoint, para sa post-training work tulad ng SFT, RL, distillation, at paggawa ng sarili mong quantized variants. Ang NVFP4 release ang inirerekomenda ng NVIDIA para sa optimized inference at low-latency deployment.

Hatol ng Kapitan
Isang seryosong base para sa fine-tuning na may matalinong MoE architecture — gamitin ito kapag kailangan mo ng customization, hindi lang para sa chat endpoint.

Model card sa Hugging Face

Isinusulat ng Kapitan ang mga tala na ito mula sa sariling paglalarawan at model card ng modelo. Ang mga presyo at laki ng konteksto ay mula sa provider sa oras ng pagsulat at maaaring magbago.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Also ranked: #54 Hottest AI model · #29 Hottest Text / LLM model · #29 Hottest Text / LLM text model

Not this creator?

Get your own badge

Trend ng kasikatan ng Nemotron 3.5 Lightning

Heat score mula 11 Aug 2026

Iskor ng init

8,980°

Ngayong linggo

▲

59.6%

8,919° noon, 8,980° ngayon

Ngayong buwan

▲

1,079%

8,656° noon, 8,980° ngayon

Nakaraang taon

n/a

Hindi pa nailalabas/natatrack

7,000°

Floor

Ang sukat ay mula 0° hanggang 9,999°. Lahat ng nasa ibaba ng 7,000° ay para sa mga modelong wala pang ulat mula sa pinanggalingan, kaya may stand-in na numero doon para kumpleto ang mga listahan. Sa 7,000° nagsisimula ang nasusukat na datos: ang modelong may totoong datos pero halos walang downloads ay nasa floor, at ang mga sukat ay pumupuno sa mga degree sa itaas nito. Ang floor ay hindi nagsasabi ng anuman tungkol sa modelo; ang mga degree sa itaas nito ang nagkakaiba-iba at siyang naghihiwalay ng mga modelo.

+1,656°

OpenRouter tokens

3,296,276,417,858 tokens ang naproseso ng modelong ito sa pamamagitan ng OpenRouter sa nakaraang 30 araw, kasama ang mga prompt at sagot. Bawat 10,000,000 tokens ay katumbas ng isang download sa termino ng download, 329,627 lahat-lahat; ang mga tokens ng huling araw ay kasama sa adoption rate. Pinagmulan: OpenRouter (openrouter.ai/rankings).

+324°

Bilis ng pagtanggap

Mga humigit-kumulang 21,182 downloads bawat araw, sinusukat sa pagitan ng dalawang pagbabasa ng mga pinanggalingan, hindi hinuhulaan mula sa average ng buong buhay. Ang bilis ay katumbas ng isang-kapat ng term ng downloads, kaya ang bagong pagtaas ay nakikita nang hindi pinapantayan ng isang araw na spike ang mga taon ng paggamit.

Ipakita ang detalyadong paghahati

Pwedeng suriin ang bawat numero sa site na ito. Ang heat score ng modelong ito ay 8,980°, at dito ito binubuo ng paisa-isang sangkap, kasama ang tumatakbong kabuuan pagkatapos ng bawat isa: ang floor, ang mga degree na idinadagdag ng bawat pinanggalingan, ang bonus para sa uri ng modelo at ang binabawas ng edad ng mga weights nito. Ang mga kulay ay ang mga banda ng tsart sa itaas. Ang glossary sa dulo ay naglilinaw ng bawat termino.

1
Magsimula sa floor.
Bakit 7,000° at hindi zero: ang sukat ay mula 0° hanggang 9,999°, at ang bahagi sa ibaba ng 7,000° ay nakalaan para sa mga modelong wala pang ulat mula sa pinanggalingan, kaya may stand-in na numero doon para kumpleto ang mga listahan at hindi mauuna sa modelong may datos. Sa 7,000° nagsisimula ang nasusukat na datos. Ang modelong may totoong datos pero halos walang downloads ay nandito; ang lahat ng susunod ay sukat, at ang espasyo sa itaas ng floor ay may sampung hakbang na sampung beses na pagtaas sa downloads na may 300° bawat isa. Pareho ang floor para sa lahat ng modelo, kaya hindi ito nagdedesisyon; ang mga degree sa itaas nito ang nagdedesisyon.
7,000°
patuloy na kabuuan
2
Idagdag ang mga download.
329,627 na katumbas ng download sa lahat, mula sa OpenRouter tokens. Sampung beses na pagdagdag ng downloads ay nagdadagdag ng parehong 300°, kaya mahalaga ang laki pero hindi ito sobra sa puntos.
+1,656°
8,656°
patuloy na kabuuan
3
Idagdag ang bilis ng pagtanggap.
Mga 21,182 downloads kada araw ngayon, sinusukat sa pagitan ng dalawang readings, na may isang-kapat na bigat.
+324°
8,980°
patuloy na kabuuan
=
Ang heat score.
Kung saan nakatayo ang modelong ito sa bawat listahan ng site na ito. Wala nang ibang nagbabago nito.
8,980°

Talahulugan: ang mga terminong ginagamit dito

Heat score: Isang numero kung gaano kadalas gamitin at gusto ang isang modelo ngayon, mula 0° hanggang 9,999°. Bawat listahan sa site na ito na nagsasabing pinakamainit ay nakaayos base dito at wala nang iba pa.
Floor: Ang 7,000° na panimulang puntos ng bawat modelong may totoong datos. Ang sukatan ay mula 0° hanggang 9,999°; ang bahagi sa ilalim ng floor ay para sa mga stand-in (mga modelong walang datos), para laging mas mataas ang ranggo ng may datos kaysa wala. Pareho ang floor para sa lahat at hindi ito nagpapasya; ang mga degree sa itaas nito ang totoong sukat.
Katumbas ng download: Lahat ng tinatrato ng score bilang download, pinagsama-sama: mga download mismo, bawat torrent seeder bilang 1,000, bawat AI Horde na larawan at bawat takbo sa isang generation site bilang isa.
Log scale: Bilang ng sampu, hindi isa-isa: ang pagtaas mula 1,000 hanggang 10,000 downloads ay nagdadagdag ng parehong degree tulad ng mula 10,000 hanggang 100,000. Pinipigilan nito ang mga higante na mauna sa lahat.
Likes: Thumbs up at likes mula sa lahat ng pinanggalingan, na katumbas ng kalahati ng download sa log scale.
Bilis ng pagtanggap: Ilang downloads kada araw ang nakukuha ng modelo ngayon, mula sa pagkakaiba ng dalawang readings ng isang pinanggalingan. Isang-kapat ng bigat ng term na download.
Nasukat at tinantya: Ang nasukat ay ibig sabihin may dalawang pagbabasa mula sa isang pinagmulan at tunay ang pagkakaiba. Ang tinantya naman ay alam lang ang kabuuan ngayon at hinahati ang nakaraan sa buong buhay ng modelo; sinasabi ng site kung alin ang ipinapakita.
Seeder: Isang tao na nag-iimbak ng kopya ng weights online para ma-download ng iba gamit ang torrent, o isang naka-host na mirror na gumagawa rin nito. Bawat isa ay katumbas ng 1,000 downloads.
AI Horde: Isang volunteer network na gumagawa ng mga larawan nang libre gamit ang mga donadong computer. Pampubliko kung ilang larawan ang nagawa gamit ang isang modelo, at bawat isa ay katumbas ng isang download.
Mga generation site: Mga site na may sariling kopya ng modelo at pinapayagan ang mga tao na gumawa gamit ito, tulad ng PixAI, SeaArt at Yodayo. Ang kanilang mga downloads ay binibilang tulad ng sa Civitai at bawat generation run ay isang download.
OpenRouter tokens: Ang isang text model na pinagsisilbihan sa pamamagitan ng API, tulad ng Claude o GPT, ay walang weights na ida-download, kaya ang paggamit nito ay sinusukat sa tokens: mga piraso ng teksto na binasa at isinulat nito sa pamamagitan ng OpenRouter, isang gateway na ginagamit ng maraming apps, sa nakaraang 30 araw. Bawat 10,000,000 tokens ay katumbas ng isang download. Pinagmulan: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Buong modelo (checkpoint): Ang weights mismo, ang file na kayang mag-generate mag-isa. May bonus ito dahil nakadepende dito ang mga add-on.
LoRA at embedding: Maliit na add-on files na nagtutulak sa weights ng iba papunta sa isang estilo, karakter o konsepto. Hindi sila kayang tumakbo mag-isa.
Pamilya at weights: Ang base na pinagbuo ng modelo, tulad ng SD 1.5, SDXL, Flux o Wan. Lahat ng modelo ay namamana ang petsa ng release ng weights ng pamilya nito.
Edad: Mga degree na ibinabawas base sa gaano katagal nang lumabas ang weights ng pamilya: 150° kada taon, hanggang 750°. Pinananatili nito ang mga lumang downloads na may taon para mag-ipon mula sa pag-freeze sa taas ng listahan.
Pampasigla ng pamilya: Isang maliit at limitadong tulak para sa mga LoRA ng pamilyang itinataguyod ng site ngayon, palaging nakalista sa breakdown.
Stand-in score: Isang matatag na numero sa ibaba ng floor na ibinibigay sa modelong wala pang ulat mula sa pinagmulan, para kumpleto ang listahan. Hindi ito nangunguna sa modelong may datos.
Bago! (panahon ng grace): Ang isang model na mas mababa sa 7 araw ang tanda ay nagpapakita ng Bago! sa halip na score at walang puwesto sa mga ranggo. Ang score nito ay kinakalkula mula unang araw, pero ang modelong isang araw pa lang ang tanda ay lumalago nang mas mabilis kaysa sa iba, kaya kung walang paghihintay, ang #1 ng linggo ay palaging yung lumabas kahapon kaysa sa tumagal nang isang linggo.
Uso: Paano ang paglago ng modelo sa isang panahon kumpara sa karaniwang paglago ng modelo sa parehong panahon. Mas mabilis kaysa karaniwan ay pagtaas, mas mabagal ay pagbaba.
Karaniwang modelo: Gitna ng katalogo: kalahati ng mga modelo na may numero ay mas mabilis ang paglago sa panahon, kalahati ay mas mabagal.

Paano gumalaw ang kasikatan ng modelong ito kumpara sa ibang mga nasa katalogo: ang paglago nito sa downloads, likes, at paggamit sa bawat panahon, sinusukat laban sa karaniwang paglago ng modelo sa parehong panahon, kasama ang heat score nito sa panahong iyon. Kapag mas mataas kaysa sa karaniwan, ibig sabihin ay pagtaas, kapag mas mababa ay pagbaba. Binubuo ang nakaraan mula sa mga kabuuan ngayon, unang araw ng modelo at sukat na bilis ng pag-download kung may dalawang sukat; ang modelong hindi pa umiiral sa simula ng panahon ay nagpapakita ng n/a.

Mga katulad na model

MiMo V2.6 Pro UltraSpeed

Mga AI model para sa paggawa ng larawan, video at teksto

Ang Nemotron 3.5 Lightning ay isang text model para sa pamilyang Text / LLM na nakalista sa ModelTrends.ai, isang read-only na catalog ng mga open source AI model para sa larawan, video at teksto. Ikumpara ito sa ibang Text / LLM model at tingnan ang heat score nito para makita kung gaano ito kasikat.

Higit pang Text / LLM model Higit pang Text / LLM Teksto / LLM llm nvidia pangangatwiran mga ahente lokal mahabang konteksto maramihang wika

Mag-browse ayon sa pamilya ng model