Kort fortalt

  • Kolibri-1-støtten kom i forhåndsutgaven b11709 den 17. oktober.
  • b11716 legger til Q1_0 og Q2_0 i Hexagon-bakenden.
  • b11727 avviser avkortede GGUF-inndata i delings- og eksportverktøy.

Modellstøtte i en egen forhåndsutgave

llama.cpp har publisert nattbygg med endringer i modellstøtte, Hexagon-beregninger og GGUF-verktøy. Byggene b11709, b11716 og b11727 er alle merket som forhåndsutgaver på GitHub, ikke som stabile utgaver.

b11709 ble publisert 17. oktober klokken 12.28.30 UTC og legger til støtte for Aleph-Alpha-modellen Kolibri-1. Notatet beskriver en tysk-engelsk resonneringsmodell og endringer i konvertering, ekspertbehandling og registrering av modellarkitekturen i tester. Datoen gjelder llama.cpp-støtten, ikke lanseringen av selve modellen.

Hexagon og kontroll av avkortede filer

b11716 fulgte 17. oktober klokken 21.11.34 UTC. Den legger til tallformatene Q1_0 og Q2_0 i Hexagon-bakenden. Endringslisten omfatter blant annet Q1_0-vekter i HMX-banen for matrisemultiplikasjon og tilpasning til formatets minneoppsett.

b11727 kom 19. oktober klokken 10.23.39 UTC. Ifølge notatet kunne gguf-split produsere korrupte tensordata uten å varsle når inndatafilen var avkortet. Utgaven legger til grense- og lesekontroller i gguf-split og export-lora, slik at slike inndata avvises.

Notatet beskriver også en regresjonstest for avkortede inndata og bevaring av gyldige tensordata. Dette er prosjektets beskrivelse av rettingen; KIavisa har ikke kjørt modellen, Hexagon-bakenden eller testen.

FORKLARINGSVIDEO · BAKGRUNNSSTOFF

Lokal KI eller sky? Forskjellen forklart

Hva betyr det at en modell kjører lokalt eller i skyen? Vi bruker Ollamas dokumentasjon som eksempel. Dette er bakgrunnsstoff, ikke en nyhet eller en anbefaling av programmet.

Les tekstversjonen

Hva betyr det at en språkmodell kjøres lokalt? Ollamas dokumentasjon beskriver modeller som ligger i datamaskinens systemminne, grafikkminne eller begge deler. Beregningen utføres da på denne maskinen.

Ollama tilbyr også skymodeller. Selskapet opplyser at de ikke ser spørsmål eller data ved lokal kjøring. Ved bruk av skymodeller behandler tjenesten spørsmål og svar. Dette er selskapets egen beskrivelse, ikke en uavhengig personverntest.

Dokumentasjonen beskriver en innstilling som slår av Ollamas skyfunksjoner. Da deaktiveres både skymodeller og nettsøk. Denne forklaringen gjelder Ollama, ikke automatisk alle programmer som bruker lokale modeller.

Kilden til forklaringen er Ollamas offentlige dokumentasjon. KIavisa har ikke uavhengig testet selskapets personvernopplysninger. Videoen er bakgrunnsstoff, ikke en ny lansering eller en anbefaling av tjenesten.

Kildene til videoen

Dette er en forklaring basert på kildene over, ikke en uavhengig test. Vi bruker KI i manusarbeidet. Diagrammene er laget lokalt i EffectCraft, og videoen er redigert i FilmCraft. Syntetisk norsk tale: Microsoft Finn.

Flere kilder

Kilder og åpenhet

Sammendraget bygger på opplysninger fra ggml-org/llama.cpp / GitHub, publisert 19. oktober 2026. Les kilden for alle detaljene og eventuelle senere oppdateringer.

Les originalkilden hos ggml-org/llama.cpp / GitHub

Vi har skrevet sammendraget med hjelp fra KI. Vi har ikke selv testet leverandørens påstander eller resultater. Bildet er en illustrasjon, ikke dokumentasjon av produktet eller hendelsen. Slik bruker vi kilder.