Kort fortalt

  • b11675 legger til lydstrømgrensesnitt og Voxtral Realtime-støtte.
  • b11695 legger til MTP for Mellum2.1 etter den stabile 0.7.0-utgaven.
  • Andre forhåndsutgaver endrer LightOnOCR-oppløsning og Qwen3-funksjoner.

Lydstrøm og nye modellfunksjoner

llama.cpp har publisert flere forhåndsutgaver med modellendringer etter den stabile 0.7.0-utgaven. b11675, publisert 16. oktober klokken 02.47.53 UTC, legger til mtmd_audio_stream og støtte for Voxtral Realtime. Det korte versjonsnotatet oppgir ikke mål for forsinkelse, transkripsjonskvalitet eller norsk språkstøtte.

Samme dag kom to Mellum-endringer: b11681 legger til presisjonshåndtering for arkitekturen, mens b11695, publisert klokken 11.12.36 UTC, legger til MTP-støtte for Mellum2.1. Dette er egne endringer utover 0.7.0-notatets beskrivelse av Mellums ekspertstyring og RoPE-håndtering. Ingen tallfestet hastighetsgevinst er oppgitt i disse korte notatene.

OCR-oppløsning og Qwen3

b11672 fra 16. oktober beskriver at LightOnOCR ikke alltid krever en lengste bildekant på 1540 piksler; opprinnelig oppløsning er standard. b11729, publisert 19. oktober klokken 11.24.09 UTC, legger til toveis oppmerksomhet og dense_2-utprojeksjon for Qwen3. Konverteringen leser også innstillingen use_bidirectional_attention.

Datoene gjelder tilgjengeligheten av disse llama.cpp-byggene, ikke en dokumentert ny lansering av modellene. Alle de fem omtalte byggene er merket som forhåndsutgaver i GitHub-metadataene. KIavisa har ikke kjørt modellene eller målt ytelse og gjenkjenning.

FORKLARINGSVIDEO · BAKGRUNNSSTOFF

Lokal KI eller sky? Forskjellen forklart

Hva betyr det at en modell kjører lokalt eller i skyen? Vi bruker Ollamas dokumentasjon som eksempel. Dette er bakgrunnsstoff, ikke en nyhet eller en anbefaling av programmet.

Les tekstversjonen

Hva betyr det at en språkmodell kjøres lokalt? Ollamas dokumentasjon beskriver modeller som ligger i datamaskinens systemminne, grafikkminne eller begge deler. Beregningen utføres da på denne maskinen.

Ollama tilbyr også skymodeller. Selskapet opplyser at de ikke ser spørsmål eller data ved lokal kjøring. Ved bruk av skymodeller behandler tjenesten spørsmål og svar. Dette er selskapets egen beskrivelse, ikke en uavhengig personverntest.

Dokumentasjonen beskriver en innstilling som slår av Ollamas skyfunksjoner. Da deaktiveres både skymodeller og nettsøk. Denne forklaringen gjelder Ollama, ikke automatisk alle programmer som bruker lokale modeller.

Kilden til forklaringen er Ollamas offentlige dokumentasjon. KIavisa har ikke uavhengig testet selskapets personvernopplysninger. Videoen er bakgrunnsstoff, ikke en ny lansering eller en anbefaling av tjenesten.

Kildene til videoen

Dette er en forklaring basert på kildene over, ikke en uavhengig test. Vi bruker KI i manusarbeidet. Diagrammene er laget lokalt i EffectCraft, og videoen er redigert i FilmCraft. Syntetisk norsk tale: Microsoft Finn.

Flere kilder

Kilder og åpenhet

Sammendraget bygger på opplysninger fra ggml-org/llama.cpp / GitHub, publisert 19. oktober 2026. Les kilden for alle detaljene og eventuelle senere oppdateringer.

Les originalkilden hos ggml-org/llama.cpp / GitHub

Vi har skrevet sammendraget med hjelp fra KI. Vi har ikke selv testet leverandørens påstander eller resultater. Bildet er en illustrasjon, ikke dokumentasjon av produktet eller hendelsen. Slik bruker vi kilder.