Bolehkah saya menjalankan Hermes 3 70B secara tempatan?

Ya — beratnya terbuka dan tersedia di Hugging Face di bawah NousResearch/Hermes-3-Llama-3.1-70B. Pada 70B parameter anda memerlukan VRAM yang besar atau versi GGUF kuantisasi untuk menjalankannya pada perkakasan pengguna.

Berapa kos dan berapa panjang konteksnya?

Melalui API ia berharga $0.70 setiap juta token untuk input dan output, dengan tetingkap konteks 131,072 token.

Bagaimana ia berbeza daripada Llama-3.1 70B Instruct standard?

Hermes 3 70B adalah fine-tune model asas yang sama, dengan penekanan tambahan pada kawalan pengguna melalui arahan sistem, lakonan peranan yang lebih kuat, panggilan fungsi lebih boleh dipercayai, dan koheren pelbagai pusingan lebih baik — Nous Research menggambarkannya sebagai bersaing atau lebih baik daripada varian Instruct rasmi pada tugas umum.

Hermes 3 70B Instruct

5047°

#llm #nousresearch #ejen #lakonan #sembang #tempatan

Jalankan model ini

Tawaran / Iklan

OpenRouter Terminal / API

Bayar setiap token

Bual dengan model ini dalam pelayar atau panggil ia dari kod anda dengan satu kunci API.

Nous | 131,072 token context | $0.70/M input, $0.70/M output. Hermes 3 adalah model bahasa generalis dengan banyak peningkatan berbanding Hermes 2, termasuk keupayaan agen lanjutan, lakonan peranan yang jauh lebih baik, penaakulan, perbualan berbilang pusingan, koheren konteks panjang, dan peningkatan menyeluruh. Hermes 3 70B adalah finetune yang kompetitif, jika tidak lebih unggul, daripada model asas Llama-3.1 70B, fokus pada penjajaran LLM kepada pengguna, dengan keupayaan pengawalan dan pemanduan yang kuat diberikan kepada pengguna akhir. Siri Hermes 3 membina dan mengembangkan set keupayaan Hermes 2, termasuk panggilan fungsi yang lebih kuat dan boleh dipercayai serta keupayaan output berstruktur, keupayaan pembantu generalis, dan kemahiran penjanaan kod yang dipertingkatkan.

Panduan untuk model ini

Ollama vs LM Studio (2026): aplikasi AI tempatan mana yang patut digunakan, dan model teratas yang dijalankan oleh setiap satu

LLM tempatan terbaik mengikut kegunaan (Oktober 2026): model terbuka yang sesuai untuk setiap kerja

Berapa banyak VRAM yang saya perlukan untuk AI tempatan?

Apakah fail GGUF? Model kuantisasi diterangkan (Q4, Q8, fp8, NF4)

Semua panduan

Nota Kapten

Ditulis oleh Captain, editor rumah

Nota dari 2026-10-13

Hermes 3 70B adalah fine-tune Llama-3.1 70B oleh Nous Research, dibina untuk memberi anda kawalan langsung ke atas tingkah laku model melalui pengawalan sistem yang kuat. Ia memperbaiki Hermes 2 dalam semua aspek, dengan peningkatan khusus dalam penggunaan agen, lakonan peranan, panggilan fungsi, dan koheren pelbagai pusingan dalam tetingkap konteks 131k token. Berat terbuka dan kadar rata $0.70/M menjadikannya pilihan praktikal untuk pembangun yang mahukan generalis yang boleh dikawal tanpa harga frontier.

Dikenali untuk

Pengawalan sistem yang kuat — anda membentuk nada, peranan dan peraturan dengan tepat.
Panggilan fungsi yang boleh dipercayai dan output berstruktur untuk saluran agen.
Koheren pelbagai pusingan yang dipertingkatkan dalam tetingkap konteks 131,072 token.
Kedalaman lakonan peranan lebih baik daripada Hermes 2, dengan konsistensi watak bermakna.
Bersaing dengan Llama-3.1 70B Instruct pada tugas umum; kadang-kadang lebih baik.

Berhati-hati dengan

Berat terbuka, tetapi semak terma lesen Nous Research sebelum sebarang penggunaan komersial.
Pada 70B, penggunaan tempatan memerlukan perkakasan serius — jangkaan 40 GB+ VRAM untuk ketepatan penuh.

Terbaik untuk

Ejen dan penggunaan alat

Lakonan dan cerita

Sembang dan pembantu

Jalankan secara tempatan

Konteks panjang

Arahan untuk cuba

Pelan agen berbilang langkah

Anda adalah pembantu penyelidikan dengan akses kepada carian web, kalkulator, dan penulis fail. Seorang pengguna mahu membandingkan penggunaan tenaga lima penyedia awan utama dan menghasilkan jadual ringkasan berperingkat. Pecahkan tugas kepada panggilan fungsi berasingan yang akan anda buat, mengikut urutan, tunjukkan nama fungsi dan argumen untuk setiap langkah.

Sembang persona yang dikawal

Anda seorang kapten kapal Victorian yang garang tetapi adil yang bercakap dalam bahasa zaman itu dan tidak pernah keluar watak. Saya seorang anak kapal baru yang melapor untuk hari pertama saya. Sambut saya, berikan tugas saya, dan beri amaran tentang satu peraturan yang anda utamakan.

Ekstrak data berstruktur

Ekstrak semua entiti bernama dari perenggan berikut dan kembalikan sebagai tatasusunan JSON. Setiap objek harus mempunyai kunci: nama, jenis (orang, organisasi, lokasi, atau lain), dan nota satu ayat tentang peranan mereka dalam teks. Perenggan: 'Pada 1969, Neil Armstrong dan Buzz Aldrin mendarat di Bulan sebagai sebahagian daripada misi Apollo 11 NASA, dilancarkan dari Kennedy Space Center di Florida.'

Bandingkan dengan

Hermes 3 405B Instruct
Model berat terbuka
konteks 131,072 token · Input $1.00/M, output $1.00/M
GPT-6 Luna
Model hanya API
konteks 1,050,000 token · Input $0.10/M, output $0.50/M
Auto Router (Beta)
Model hanya API
konteks 2,000,000 token · Input $-1,000,000.00/M, output $-1,000,000.00/M
Command R+ (08-2024)
Model hanya API
konteks 128,000 token · Input $2.50/M, output $10.00/M

Lebih banyak model teks dari nousresearch

Soalan yang sering ditanya

Bolehkah saya menjalankan Hermes 3 70B secara tempatan?: Ya — beratnya terbuka dan tersedia di Hugging Face di bawah NousResearch/Hermes-3-Llama-3.1-70B. Pada 70B parameter anda memerlukan VRAM yang besar atau versi GGUF kuantisasi untuk menjalankannya pada perkakasan pengguna.
Berapa kos dan berapa panjang konteksnya?: Melalui API ia berharga $0.70 setiap juta token untuk input dan output, dengan tetingkap konteks 131,072 token.
Bagaimana ia berbeza daripada Llama-3.1 70B Instruct standard?: Hermes 3 70B adalah fine-tune model asas yang sama, dengan penekanan tambahan pada kawalan pengguna melalui arahan sistem, lakonan peranan yang lebih kuat, panggilan fungsi lebih boleh dipercayai, dan koheren pelbagai pusingan lebih baik — Nous Research menggambarkannya sebagai bersaing atau lebih baik daripada varian Instruct rasmi pada tugas umum.

Keputusan Kapten
Generalis terbuka yang berharga dengan kawalan yang baik yang layak apabila anda memerlukan saluran agen, lakonan peranan mendalam, atau kawalan arahan sistem ketat.

Kad model di Hugging Face

Kapten menulis nota ini berdasarkan penerangan model dan kad model itu sendiri. Harga dan saiz konteks adalah dari penyedia pada masa penulisan dan boleh berubah.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Not this creator?

Get your own badge

Bagaimana skor ini dijumlahkan

Model ini belum ada data populariti dari mana-mana sumber lagi, jadi ia membawa nombor gantian di bawah 7,000° yang memastikan senarai lengkap. Ia tidak pernah menduduki tempat lebih tinggi daripada model yang ada data. Pecahan muncul di sini sebaik sahaja sumber melaporkannya.

Glosari: istilah yang digunakan di sini

Skor heat: Satu nombor untuk seberapa banyak model digunakan dan diingini sekarang, dari 0° hingga 9,999°. Setiap senarai di laman ini yang kata paling panas disusun mengikutnya dan tiada yang lain.
Lantai: 7,000° yang setiap model dengan data sebenar bermula. Skala dari 0° hingga 9,999°; bahagian bawah lantai untuk pengganti (model tanpa data), supaya model dengan data sentiasa lebih tinggi dari yang tiada. Lantai sama untuk semua dan tidak tentukan apa-apa; darjah di atasnya adalah ukuran.
Setara muat turun: Semua yang skor anggap sebagai muat turun, dijumlahkan: muat turun sendiri, setiap torrent seeder sebagai 1,000, setiap imej AI Horde dan setiap larian di laman generasi sebagai satu.
Skala log: Mengira dengan puluhan, bukan satuan: dari 1,000 ke 10,000 muat turun tambah darjah sama seperti dari 10,000 ke 100,000. Ini elak gergasi menindas yang lain.
Suka: Jempol dan suka dari semua sumber, bernilai separuh muat turun pada skala log.
Kadar penerimaan: Berapa banyak muat turun sehari model dapat sekarang, dari beza dua bacaan sumber. Berat suku dari terma muat turun.
Diukur dan dianggarkan: Diukur bermaksud ada dua bacaan dari satu sumber dan perbezaannya adalah nyata. Dianggarkan bermaksud hanya jumlah hari ini yang diketahui dan masa lalu diagihkan sepanjang hayat model; laman web akan memberitahu yang mana satu ia tunjukkan.
Seeder: Seseorang yang menyimpan salinan berat secara dalam talian untuk dimuat turun oleh orang lain melalui torrent, atau cermin yang dihoskan melakukan perkara yang sama. Setiap satu dikira sebagai 1,000 muat turun.
AI Horde: Rangkaian sukarelawan yang menjana imej secara percuma pada komputer yang didermakan. Bilangan imej yang telah dihasilkan dengan model adalah awam, dan setiap satu dikira sebagai satu muat turun.
Laman penjanaan: Laman yang menghoskan salinan model mereka sendiri dan membenarkan orang menjana dengannya, seperti PixAI, SeaArt dan Yodayo. Muat turun mereka dikira seperti Civitai dan setiap sesi penjanaan dikira sebagai satu muat turun.
Token OpenRouter: Model teks yang disediakan melalui API, seperti Claude atau GPT, tidak mempunyai berat untuk dimuat turun, jadi penggunaannya diukur dalam token: bahagian teks yang dibaca dan ditulis melalui OpenRouter, pintu masuk yang digunakan oleh banyak aplikasi, dalam 30 hari terakhir. Setiap 10,000,000 token dikira sebagai satu muat turun. Sumber: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Model penuh (checkpoint): Berat itu sendiri, fail yang menjana secara sendiri. Ia mendapat bonus kerana add-on bergantung padanya.
LoRA dan embedding: Fail add-on kecil yang mengarahkan berat orang lain ke arah gaya, watak atau konsep. Ia tidak boleh dijalankan sendiri.
Keluarga dan berat: Asas yang model dibina, seperti SD 1.5, SDXL, Flux atau Wan. Setiap model mewarisi tarikh keluaran berat keluarganya.
Umur: Darjah yang ditolak berdasarkan berapa lama berat keluarga itu dikeluarkan: 150° setahun, sehingga 750°. Ia mengekalkan muat turun lama yang mempunyai masa bertahun-tahun untuk terkumpul dengan membekukan di bahagian atas senarai.
Peningkatan keluarga: Dorongan kecil dan terhad untuk LoRA dari keluarga yang laman ini sedang galakkan sekarang, sentiasa disenaraikan dalam pecahan.
Skor gantian: Nombor stabil di bawah paras yang diberikan kepada model yang belum ada laporan sumber, supaya senarai kekal lengkap. Ia tidak pernah mendahului model yang ada data.
Baru! (tempoh kelonggaran): Model yang berumur kurang dari 7 hari menunjukkan Baru! dan tidak mempunyai skor serta tidak menduduki tempat dalam kedudukan. Skornya dikira dari hari pertama, tetapi model yang berumur satu hari berkembang lebih cepat daripada apa pun, jadi tanpa menunggu, #1 minggu ini akan sentiasa menjadi apa sahaja yang keluar semalam dan bukan yang bertahan selama seminggu.
Trend: Bagaimana pertumbuhan model dalam tempoh tertentu dibandingkan dengan pertumbuhan model biasa dalam tempoh yang sama. Lebih cepat dari biasa bermaksud naik, lebih perlahan bermaksud turun.
Model biasa: Tengah katalog: separuh model dengan angka tumbuh lebih cepat dalam tempoh itu, separuh lagi lebih perlahan.

Model serupa

DeepSeek V3.2

TEXT / LLM

Gemini 3.5 Flash Lite

TEXT / LLM

NVIDIA Nemotron 3.5 Lightning

TEXT / LLM

Extract

TEXT / LLM

Model AI untuk penjanaan imej, video dan teks

Hermes 3 70B Instruct ialah model teks untuk keluarga Text / LLM yang disenaraikan di ModelTrends.ai, katalog baca sahaja untuk model AI imej, video dan teks sumber terbuka. Bandingkannya dengan model Text / LLM lain dan semak skor habanya untuk melihat trendnya.

Lagi model Text / LLM Lagi Teks / LLM Text / LLM llm nousresearch ejen lakonan sembang tempatan konteks panjang

Layari mengikut keluarga model