Kort fortalt

  • Ollama 0.40.10 legger til lokal støtte for NVIDIA Nemotron 3.5 Bolt E4B.
  • Ollama oppgir 128K kontekst, bildeforståelse og verktøykall for E4B.
  • DFlash følger med; hastighet og minnebehov er ikke testet av KIavisa.

En mindre Bolt-modell i Ollama

Ollama publiserte utgaven 0.40.10 den 23. oktober. Den legger til støtte for NVIDIA Nemotron 3.5 Bolt E4B, som NVIDIA har videreutviklet fra Gemma 4 E4B. Modellkortet oppgir åtte milliarder parametere, med fire milliarder effektive.

Ifølge Ollama støtter E4B tekst, bildeforståelse og verktøykall over flere samtalerunder. Ollama oppgir et kontekstvindu på 128K tokener, tekstbitene modellen behandler. Den konkrete modellbetegnelsen er nemotron-3.5-bolt:e4b; standardvarianten i biblioteket er den større Bolt 74B-A9B.

DFlash lager forslag til neste tekst

Utgaven inkluderer en DFlash-hjelpemodell for spekulativ dekoding. NVIDIA beskriver hvordan hjelpemodellen foreslår opptil sju nye tokener om gangen, som hovedmodellen deretter kontrollerer. Formålet er raskere svargenerering; NVIDIA understreker at gevinsten avhenger av kjøreoppsett og kvantisering, altså tallpresisjonen modellvektene lagres med.

Ollama oppgir støtte for E4B på Windows, Linux og Apple Silicon. Biblioteket viser modellpakker på 7,2–7,9 GB. I llama.cpp-varianten inngår en hovedmodell på 6,2 GB, en bildedel på 992 MB og en DFlash-del på 737 MB. Dette er pakkestørrelser, ikke et dokumentert minstekrav til arbeidsminne.

NVIDIAs Q4_K_M-modellkort beskriver tekst inn og ut, med opptil 64K tokener på hver side og et kjøreeksempel med 65 536 tokener. Bilde- og 128K-støtten omtalt her er Ollamas opplysninger om sitt oppsett. KIavisa har ikke kjørt modellen eller målt hastighet og minnebruk.

Utgitt med OpenMDW 1.1

NVIDIA oppgir OpenMDW License Agreement, version 1.1 for E4B. Lisensen gir adgang til bruk og endring, og krever at lisens og relevante opphavs- og opprinnelsesmerknader følger med ved viderefordeling. Den gir ingen garanti og legger ansvaret for nødvendige tredjepartsrettigheter på brukeren.

Flere kilder

Kilder og åpenhet

Sammendraget bygger på opplysninger fra Ollama – offisielt utgivelsesnotat, publisert 23. oktober 2026 kl. 17:03. Les kilden for alle detaljene og eventuelle senere oppdateringer.

Les originalkilden hos Ollama – offisielt utgivelsesnotat

Vi har skrevet sammendraget med hjelp fra KI. Vi har ikke selv testet leverandørens påstander eller resultater. Bildet er en illustrasjon, ikke dokumentasjon av produktet eller hendelsen. Slik bruker vi kilder.