Sind die Gewichte offen und kann ich das lokal ausführen?

Ja, die BF16-Gewichte sind auf Hugging Face unter der OpenMDW License v1.1 verfügbar und für kommerzielle Nutzung freigegeben. Eine einzelne H100 80GB oder A100 80GB reicht aus, für Consumer-Hardware empfiehlt NVIDIA die NVFP4- oder GGUF-Varianten.

Was kostet es und wie groß ist das Kontextfenster?

Über die API kostet es 0,07 $ pro Million Eingabetokens und 0,20 $ pro Million Ausgabetokens. Das Kontextfenster beträgt 256K Tokens auf einer einzelnen H100; die Architektur unterstützt bis zu 1M Tokens auf Multi-GPU-Blackwell-Systemen.

Worin unterscheidet sich diese BF16-Version von der NVFP4-Version?

Die BF16-Version ist der Referenz-Checkpoint in voller Präzision, gedacht für Nachtrainingsarbeiten wie SFT, RL, Distillation und eigene quantisierte Varianten. Die NVFP4-Version empfiehlt NVIDIA für optimierte Inferenz und latenzarme Bereitstellung.

▲

59.6%

diese Woche

Nemotron 3.5 Lightning

8980°

#llm #nvidia #logik #agenten #lokal #langer kontext

Dieser Monat

Modell ausführen

Angebote / Werbung

OpenRouter Terminal / API

Bezahlung pro Token

Chatte mit diesem Modell im Browser oder rufe es mit einem API-Schlüssel aus deinem Code auf.

NVIDIA | 262.144 Token Kontext | $0,07/M Eingabe, $0,20/M Ausgabe. NVIDIA Nemotron 3.5 Lightning ist ein offenes Mixture-of-Experts-Modell von NVIDIA mit 3 Milliarden aktiven Parametern von insgesamt 30 Milliarden. Es eignet sich für hochdurchsatzfähige agentische Arbeitslasten und spezialisierte Aufgaben, die von domänenspezifischer Anpassung profitieren.

Anleitungen zu diesem Modell

Ollama vs LM Studio (2026): Welche lokale KI-App soll man nutzen und welche Top-Modelle laufen auf jeder?

Beste lokale LLM nach Anwendungsfall (Oktober 2026): Das richtige offene Modell für jede Aufgabe

Offene Gewichte vs. Open Source vs. Nur API: Was du wirklich darfst

Was ist eine GGUF-Datei? Quantisierte Modelle erklärt (Q4, Q8, fp8, NF4)

Wie viel VRAM brauche ich eigentlich für lokale KI?

Wie man Ollama installiert und eine lokale KI betreibt (Windows, Mac, Linux)

Alle Anleitungen

Captain's Notizen

Geschrieben von Captain, dem Hausredakteur

Notizen vom 2026-10-13

Nemotron 3.5 Lightning ist ein 30-Milliarden-Parameter-Mixture-of-Experts-Modell von NVIDIA mit nur 3 Milliarden aktiven Parametern bei der Inferenz, basierend auf einer hybriden Architektur aus Mamba-2, MoE und Attention. Die hier veröffentlichte BF16-Version ist der Referenz-Checkpoint – der richtige Ausgangspunkt für Feinabstimmung, Distillation oder eigene quantisierte Varianten, aber nicht der schnellste Weg zur Produktion. Offene Gewichte, kommerzielle Nutzung erlaubt, und 256K Kontext auf einer einzelnen H100.

Bekannt für

MoE-Effizienz: 30 Milliarden Gesamtparameter, nur 3 Milliarden aktiv pro Vorwärtsdurchlauf
Hybride Architektur mit Mamba-2, MoE-Schichten und Attention
Konfigurierbarer Denkmodus – Denken bei der Inferenz an- oder ausschaltbar
Konzipiert als Basis für Feinabstimmung und Distillation, nicht nur als Chat-Endpunkt
Unterstützt sechs Sprachen, darunter Englisch, Spanisch, Französisch, Deutsch, Italienisch, Japanisch

Achte auf

Diese BF16-Version ist für Anpassungsarbeiten gedacht; für latenzarme Bereitstellung verweist NVIDIA auf die NVFP4-Variante.
Der Einsatz auf einer einzelnen H100 ist bis 256K Tokens validiert; für 1M Tokens sind Multi-GPU oder Blackwell-Hardware nötig.
Gewichte sind offen, aber unter der OpenMDW License Agreement v1.1 – keine Standard-Apache- oder MIT-Lizenz; prüfen Sie die Bedingungen.

Am besten für

Agenten und Werkzeugnutzung

Prompts zum Ausprobieren

Denkmodus bei einem Problem ein-/ausschalten

Du löst ein Logistikproblem. Ein Lager versendet Bestellungen in Chargen zu 12 Stück. Es hat 500 Einheiten von Produkt A und erhält täglich 75 neue Bestellungen. Jede Bestellung verlangt 3 Einheiten. Wie viele volle Tage hält der Bestand, und an welchem Tag wird die letzte vollständige Charge versendet? Zeige deine Überlegungen Schritt für Schritt.

Vorbereitung für domänenspezifisches Fein-Tuning

Ich bereite einen Datensatz für überwachtes Fein-Tuning eines Assistenten für juristische Dokumentenprüfung vor. Schreibe 5 hochwertige Anweisungs-Antwort-Paare, bei denen die Anweisung das Modell auffordert, einen bestimmten Klauseltyp in einem Vertragsauszug zu identifizieren, und die Antwort die Klausel benennt, den relevanten Text zitiert und ihre Bedeutung in verständlicher Sprache erklärt.

Agentenaufgaben zerlegen

Du bist ein Agent mit Zugriff auf eine Websuche, eine Code-Ausführung und ein Datei-Schreib-Tool. Ein Nutzer möchte einen wöchentlichen Bericht über Wettbewerberpreise für drei SaaS-Produkte. Zerlege dies in eine konkrete Abfolge von Tool-Aufrufen und Teilaufgaben, gib an, was jeder Aufruf abruft oder berechnet und wie die Ergebnisse in den Abschlussbericht einfließen.

Vergleichen mit

Nemotron 3 Ultra
Modell mit offenen Gewichten
262,144 Token Kontext · $0.60/M Eingabe, $2.40/M Ausgabe
Nemotron 3 Super
Modell mit offenen Gewichten
262,144 Token Kontext · $0.08/M Eingabe, $0.45/M Ausgabe
NVIDIA Nemotron 3 Ultra 550B A55B
Modell mit offenen Gewichten
262,144 Token Kontext · $0.50/M Eingabe, $2.20/M Ausgabe
Nemotron 3.5 Content Safety
Modell mit offenen Gewichten
131,072 Token Kontext · $0.20/M Eingabe, $0.20/M Ausgabe

Mehr Textmodelle von nvidia

Häufig gestellte Fragen

Sind die Gewichte offen und kann ich das lokal ausführen?: Ja, die BF16-Gewichte sind auf Hugging Face unter der OpenMDW License v1.1 verfügbar und für kommerzielle Nutzung freigegeben. Eine einzelne H100 80GB oder A100 80GB reicht aus, für Consumer-Hardware empfiehlt NVIDIA die NVFP4- oder GGUF-Varianten.
Was kostet es und wie groß ist das Kontextfenster?: Über die API kostet es 0,07 $ pro Million Eingabetokens und 0,20 $ pro Million Ausgabetokens. Das Kontextfenster beträgt 256K Tokens auf einer einzelnen H100; die Architektur unterstützt bis zu 1M Tokens auf Multi-GPU-Blackwell-Systemen.
Worin unterscheidet sich diese BF16-Version von der NVFP4-Version?: Die BF16-Version ist der Referenz-Checkpoint in voller Präzision, gedacht für Nachtrainingsarbeiten wie SFT, RL, Distillation und eigene quantisierte Varianten. Die NVFP4-Version empfiehlt NVIDIA für optimierte Inferenz und latenzarme Bereitstellung.

Captain's Urteil
Eine ernsthafte Basis für Feinabstimmung mit einer cleveren MoE-Architektur – greifen Sie zu, wenn Sie anpassen wollen, nicht nur einen Chat-Endpunkt benötigen.

Model Card auf Hugging Face

Der Captain schreibt diese Notizen basierend auf der Beschreibung und Model Card des Modells. Preise und Kontextgrößen sind vom Anbieter zum Zeitpunkt der Erstellung und können sich ändern.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Also ranked: #54 Hottest AI model · #29 Hottest Text / LLM model · #29 Hottest Text / LLM text model

Not this creator?

Get your own badge

Beliebtheitstrend von Nemotron 3.5 Lightning

Heat-Score seit 11 Aug 2026

Heat-Score

8,980°

Diese Woche

▲

59.6%

8,919° damals, 8,980° jetzt

Diesen Monat

▲

1,079%

8,656° damals, 8,980° jetzt

Vergangenes Jahr

n/a

Noch nicht veröffentlicht/erfasst

7,000°

Grundwert

Die Skala reicht von 0° bis 9.999°. Alles unterhalb von 7,000° ist für Modelle reserviert, über die noch keine Quelle berichtet hat. Diese tragen dort eine Platzhalterzahl, damit die Listen vollständig bleiben. 7,000° ist der Punkt, an dem gemessene Daten beginnen: Ein Modell mit echten Daten, aber fast keinen Downloads, sitzt auf dem Grundwert, und die Messungen füllen die Grade darüber. Der Grundwert sagt nichts über das Modell aus; nur die Grade darüber tun das und trennen ein Modell vom anderen.

+1,656°

OpenRouter Tokens

3,296,276,417,858 Tokens hat dieses Modell in den letzten 30 Tagen über OpenRouter verarbeitet, Eingaben und Antworten zusammen. Je 10,000,000 Tokens zählen als ein Download im Download-Zeitraum, insgesamt 329,627; die Tokens des letzten Tages fließen in die Adoptionsrate ein. Quelle: OpenRouter (openrouter.ai/rankings).

+324°

Verbreitungsrate

Etwa 21,182 Downloads pro Tag, gemessen zwischen zwei Abfragen der Quellen, nie geschätzt aus einem Durchschnitt über die gesamte Lebenszeit. Die Geschwindigkeit zählt ein Viertel des Download-Werts, sodass ein frischer Anstieg sichtbar wird, ohne dass ein eintägiger Spitzenwert jahrelange Nutzung übertrumpft.

Detaillierte Aufschlüsselung anzeigen

Jede Zahl auf dieser Seite kann überprüft werden. Der Heat-Score dieses Modells beträgt 8,980°, und hier wird er Schritt für Schritt aufgebaut, mit dem laufenden Gesamtwert nach jedem Schritt: der Grundwert, die Grad, die jede Quelle hinzufügt, der Bonus für die Art des Modells und was das Alter seiner Gewichte abzieht. Die Farben entsprechen den Bereichen der obigen Grafik. Das Glossar am Ende erklärt jeden Begriff.

1
Starte beim Grundwert.
Warum 7,000° und nicht null: Die Skala reicht von 0° bis 9.999°, und der Bereich unter 7,000° ist für Modelle reserviert, über die noch keine Quelle berichtet hat. Diese tragen dort eine Platzhalterzahl, damit die Listen vollständig bleiben und niemals über einem Modell mit Daten stehen. 7,000° ist der Punkt, an dem gemessene Daten beginnen. Ein Modell mit echten Daten, aber fast keinen Downloads, sitzt hier; alles, was folgt, ist Messung, und der Bereich über dem Grundwert enthält zehn zehnfache Schritte bei Downloads zu je 300°. Der Grundwert ist für jedes Modell gleich, er entscheidet also nichts; die Grade darüber tun das.
7,000°
laufende Summe
2
Füge die Downloads hinzu.
329,627 Download-Äquivalente insgesamt, von OpenRouter Tokens. Zehnmal die Downloads ergeben denselben 300°, also zählt die Größe, aber sie dominiert die Bewertung nie.
+1,656°
8,656°
laufende Summe
3
Füge die Verbreitungsrate hinzu.
Momentan etwa 21,182 Downloads pro Tag, gemessen zwischen zwei Messungen, mit einem Viertel der Gewichtung.
+324°
8,980°
laufende Summe
=
Der Heat-Score.
Wo dieses Modell auf jeder Liste dieser Seite steht. Nichts anderes beeinflusst ihn.
8,980°

Glossar: die hier verwendeten Begriffe

Heat-Score: Eine Zahl dafür, wie viel ein Modell gerade genutzt und gewollt wird, von 0° bis 9.999°. Jede Liste auf dieser Seite, die „heißeste“ sagt, ist danach sortiert und nach nichts anderem.
Grundwert: Die 7.000°, mit denen jedes Modell mit echten Daten startet. Die Skala reicht von 0° bis 9.999°; der Bereich unter dem Grundwert ist für Platzhalter reserviert (Modelle ohne Daten), damit ein Modell mit Daten immer über einem ohne steht. Der Grundwert ist für alle gleich und entscheidet nichts; die Grade darüber sind die Messung.
Download-Äquivalente: Alles, was der Score als Download zählt, zusammengefasst: Downloads selbst, jeder Torrent-Seeder als 1.000, jedes AI Horde-Bild und jeder Lauf auf einer Generierungsseite als eins.
Logarithmische Skala: Gezählt in Zehnerschritten, nicht einzeln: Der Sprung von 1.000 auf 10.000 Downloads bringt genauso viele Grade wie von 10.000 auf 100.000. So verdrängen Riesen nicht alles andere.
Likes: Daumen hoch und Likes von allen Quellen, jeweils halb so viel wert wie ein Download auf der Log-Skala.
Verbreitungsrate: Wie viele Downloads ein Modell gerade pro Tag bekommt, aus dem Unterschied zwischen zwei Messungen einer Quelle. Ein Viertel der Gewichtung des Download-Begriffs.
Gemessen und geschätzt: Gemessen bedeutet, dass es zwei Messwerte einer Quelle gibt und der Unterschied echt ist. Geschätzt heißt, es ist nur die heutige Gesamtsumme bekannt und die Vergangenheit wird über die Lebensdauer des Modells verteilt; die Seite sagt, welche Variante angezeigt wird.
Seeder: Jemand, der eine Kopie der Gewichte online hält, damit andere sie über einen Torrent herunterladen können, oder ein gehosteter Spiegel, der dasselbe macht. Jeder davon zählt als 1.000 Downloads.
AI Horde: Ein Freiwilligennetzwerk, das kostenlos Bilder auf gespendeten Computern generiert. Die Anzahl der Bilder, die es mit einem Modell erstellt hat, ist öffentlich und jedes zählt als ein Download.
Generierungsseiten: Seiten, die eigene Kopien eines Modells hosten und Leute damit generieren lassen, wie PixAI, SeaArt und Yodayo. Ihre Downloads zählen wie bei Civitai und jeder Generierungslauf als ein Download.
OpenRouter Tokens: Ein Textmodell, das über eine API bereitgestellt wird, wie Claude oder GPT, hat keine Gewichte zum Herunterladen, daher wird seine Nutzung in Tokens gemessen: die Textstücke, die es über OpenRouter gelesen und geschrieben hat, einem Gateway, das viele Apps nutzen, in den letzten 30 Tagen. Je 10,000,000 Tokens zählen als ein Download. Quelle: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Vollständiges Modell (Checkpoint): Die Gewichte selbst, die Datei, die eigenständig generiert. Sie bekommt einen Bonus, weil Add-ons davon abhängen.
LoRA und Embedding: Kleine Zusatzdateien, die die Gewichte von jemand anderem in Richtung eines Stils, Charakters oder Konzepts lenken. Sie können nicht alleine laufen.
Familie und Gewichte: Die Basis, auf der ein Modell aufgebaut ist, wie SD 1.5, SDXL, Flux oder Wan. Jedes Modell erbt das Veröffentlichungsdatum der Gewichte seiner Familie.
Alter: Abzüge je nachdem, wie lange die Gewichte der Familie schon draußen sind: 150° pro Jahr, bis zu 750°. Alte Downloads, die Jahre zum Ansammeln hatten, bleiben oben in der Liste eingefroren.
Familien-Boost: Ein kleiner, begrenzter Schub für LoRAs einer Familie, die diese Seite gerade vorantreibt, immer in der Aufschlüsselung aufgeführt.
Stand-in-Wert: Eine stabile Zahl unter der Mindestgrenze, die einem Modell gegeben wird, über das noch keine Quelle berichtet hat, damit die Listen vollständig bleiben. Sie rangiert nie über einem Modell mit Daten.
Neu! (Schonfrist): Ein Modell, das weniger als 7 Tage alt ist, zeigt Neu! statt einer Punktzahl und nimmt keinen Platz in den Rankings ein. Seine Punktzahl wird ab dem ersten Tag berechnet, aber ein Modell, das einen Tag alt ist, wächst schneller als alles andere, daher wäre ohne die Wartezeit das #1 Modell der Woche immer das, das gestern herauskam, statt das, das sich eine Woche gehalten hat.
Trend: Wie das Wachstum eines Modells über einen Zeitraum im Vergleich zum typischen Wachstum eines Modells im gleichen Zeitraum ist. Schneller als üblich bedeutet Anstieg, langsamer bedeutet Rückgang.
Typisches Modell: Die Mitte des Katalogs: Die Hälfte der Modelle mit einer Zahl wuchs schneller im Zeitraum, die andere Hälfte langsamer.

Wie sich die Beliebtheit dieses Modells im Vergleich zum Rest des Katalogs entwickelt hat: sein Wachstum bei Downloads, Likes und Nutzung in jedem Zeitraum, gemessen am typischen Wachstum eines Modells im gleichen Zeitraum, mit dem Heat-Score zu diesem Zeitpunkt. Über dem typischen Wachstum bedeutet ein Anstieg, darunter ein Rückgang. Die Vergangenheit wird aus den heutigen Gesamtzahlen, dem ersten Tag des Modells und seiner gemessenen Download-Geschwindigkeit rekonstruiert, wenn zwei Messungen vorliegen; ein Modell, das zu Beginn eines Zeitraums nicht existierte, zeigt n/a an.

Ähnliche Modelle

Qwen3 VL 32B Instruct

KI-Modelle für Bild-, Video- und Texterzeugung

Nemotron 3.5 Lightning ist ein Textmodell für die Familie Text / LLM und wird auf ModelTrends.ai gelistet, einem reinen Lesekatalog für Open-Source-KI-Modelle für Bild, Video und Text. Vergleiche es mit anderen Text / LLM-Modellen und prüfe den Hitzewert, um den Trend zu sehen.

Weitere Text / LLM-Modelle llm nvidia logik agenten lokal langer kontext mehrsprachig

Nach Modellfamilie stöbern