Alle video's
0:00 / 0:00
research

Nemotron 3.5 Lightning Local Test | NVIDIA Open Model | Coding & Hermes Agent with llama.cpp

Venelin Valkov12 augustus 2026Bekijk op YouTube

Onderdeel van serie

Afl. 8 · Cpp Llama Local

Bekijk de serie

Wat je leert

  • Nemotron 3.5 Lightning is een 30B MoE-model van NVIDIA met slechts 3B actieve parameters, geoptimaliseerd voor agentic AI-taken
  • Je leert hoe je het model lokaal instelt en draait met llama.cpp zonder cloud-afhankelijkheden
  • Het model ondersteunt geavanceerde agent-architecturen zoals OpenClaw en Hermes Agent voor complexe workflows

Veelgestelde vragen

Wat is Nemotron 3.5 Lightning en waarvoor is het ontworpen?
Nemotron 3.5 Lightning is NVIDIA's open-source 30B Mixture-of-Experts model met slechts 3B actieve parameters. Het is speciaal geoptimaliseerd voor agentic AI-werk, waardoor het efficiënt langlopende agenten kan uitvoeren die taken zelfstandig kunnen plannen en uitvoeren.
Hoe runt je Nemotron 3.5 Lightning lokaal?
Je kunt het model lokaal instellen met llama.cpp, een efficiënte C++ runtime. De video toont stap voor stap hoe je het model downloads, laadt en test zonder afhankelijkheid van cloud-diensten.
Welke agent-frameworks werken met Nemotron 3.5 Lightning?
Het model ondersteunt frameworks zoals OpenClaw en Hermes Agent, die het inzetten voor geavanceerde agentic workflows en langlopende taken.

Onderwerpen

In deze video

Lees ook

Beschrijving van het kanaal

Nemotron 3.5 Lightning is 30B MoE model with 3B active parameters by NVIDIA that is optimized for agentic work using OpenClaw and Hermes Agent. Let's set it up locally and test it! Annoucement: https://developer.nvidia.com/blog/nvidia-nemotron-3-5-lightning-delivers-fast-accurate-specialized-task-execution-for-long-running-agents/ Weights: https://huggingface.co/bartowski/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF AI Academy: https://MLExpert.io Work with me: https://mlexpert.io/consulting DaBench (open weight LLM benchmarks): https://dabench.ai LinkedIn: https://www.linkedin.com/in/venelin-valkov Follow me on X: https://twitter.com/venelin_valkov Discord: https://discord.gg/UaNPxVD6tv Subscribe: http://bit.ly/venelin-subscribe GitHub repository: https://github.com/curiousily/AI-Bootcamp 👍 Don't Forget to Like, Comment, and Subscribe for More Tutorials! Join this channel to get access to the perks and support my work: https://www.youtube.com/channel/UCoW_WzQNJVAjxo4osNAxd_g/join