Kort fortalt

  • b11714 legger til Discover Models etter modellbehandleren i 0.7.0.
  • Funksjonen for å finne modeller er av som standard, og nedlasting av utkast er valgfri.
  • Notatene beskriver gjenopptakelse, hjelpefiler, ETag-kontroll og proxyhåndtering.

Egen visning for å finne modeller

llama.cpp-bygget b11714, publisert 17. oktober klokken 16.17.08 UTC, legger til Discover Models i nettgrensesnittet. Dette er en utvidelse etter modellbehandleren i den stabile 0.7.0-utgaven, ikke en ny omtale av den samme grunnfunksjonen. GitHub markerer b11714 som en forhåndsutgave.

Visningen kombinerer en modellkatalog med søk, modellkort, metadata og nedlastingsvalg fra Hugging Face Hub. Discover Models er av som standard. Når innstillingen aktiveres, slås også Hub-innstillingen på. Beslutningsmodeller filtreres ut av katalogen og søkene fordi nettgrensesnittet ikke kan kjøre dem.

Delvise nedlastinger og hjelpefiler

Ifølge endringslisten bevares delvise filer slik at nedlastinger kan gjenopptas, også etter omstart. Serveren skiller ufullstendige nedlastinger fra aktive. Hjelpefiler, som modellens bildeprojeksjon eller utkast til spekulativ dekoding, håndteres sammen med modellen. Nedlasting av utkast har et eget frivillig valg.

Notatet beskriver også kontroll av lagret ETag før gjenopptakelse, slik at bytes fra ulike filversjoner ikke blandes. En nedlasting som deler en delvis fil med en pågående nedlasting, avvises foreløpig. Det tidligere nattbygget b11699 fra 16. oktober legger til HTTP_PROXY, HTTPS_PROXY og NO_PROXY i HTTP-klienten, med direkte tilgang til lokale loopback-adresser. KIavisa har ikke funksjonstestet nedlastingene eller proxyhåndteringen.

FORKLARINGSVIDEO · BAKGRUNNSSTOFF

Lokal KI eller sky? Forskjellen forklart

Hva betyr det at en modell kjører lokalt eller i skyen? Vi bruker Ollamas dokumentasjon som eksempel. Dette er bakgrunnsstoff, ikke en nyhet eller en anbefaling av programmet.

Les tekstversjonen

Hva betyr det at en språkmodell kjøres lokalt? Ollamas dokumentasjon beskriver modeller som ligger i datamaskinens systemminne, grafikkminne eller begge deler. Beregningen utføres da på denne maskinen.

Ollama tilbyr også skymodeller. Selskapet opplyser at de ikke ser spørsmål eller data ved lokal kjøring. Ved bruk av skymodeller behandler tjenesten spørsmål og svar. Dette er selskapets egen beskrivelse, ikke en uavhengig personverntest.

Dokumentasjonen beskriver en innstilling som slår av Ollamas skyfunksjoner. Da deaktiveres både skymodeller og nettsøk. Denne forklaringen gjelder Ollama, ikke automatisk alle programmer som bruker lokale modeller.

Kilden til forklaringen er Ollamas offentlige dokumentasjon. KIavisa har ikke uavhengig testet selskapets personvernopplysninger. Videoen er bakgrunnsstoff, ikke en ny lansering eller en anbefaling av tjenesten.

Kildene til videoen

Dette er en forklaring basert på kildene over, ikke en uavhengig test. Vi bruker KI i manusarbeidet. Diagrammene er laget lokalt i EffectCraft, og videoen er redigert i FilmCraft. Syntetisk norsk tale: Microsoft Finn.

Flere kilder

Kilder og åpenhet

Sammendraget bygger på opplysninger fra ggml-org/llama.cpp / GitHub, publisert 17. oktober 2026. Les kilden for alle detaljene og eventuelle senere oppdateringer.

Les originalkilden hos ggml-org/llama.cpp / GitHub

Vi har skrevet sammendraget med hjelp fra KI. Vi har ikke selv testet leverandørens påstander eller resultater. Bildet er en illustrasjon, ikke dokumentasjon av produktet eller hendelsen. Slik bruker vi kilder.