Kort fortalt

  • --auto-route kan sende rutinearbeid fra skybaserte kodeagenter til lokal modell.
  • Nettleserens Always allow er avgrenset; skript krever fortsatt godkjenning.
  • Tekst-diffusjonstrening, DeepSpeed og eksport av hjelpemodeller utvides i 0.1.908-beta.

Lokal ruting og nettleserhandlinger

Unsloth publiserte v0.1.908-beta 15. oktober klokken 18.50.55 UTC. Ifølge prosjektet sender unsloth start --auto-route rutinearbeid fra Claude Code, OpenCode eller Codex på skymodeller til en lokal modell. Codex får lokale MCP-/underagentverktøy, og agentene kan velge tilkoblede modeller med --model. Mellomlageret for prompter gjenbrukes bedre.

Always allow godkjenner én handlingstype på ett nettsted i samtalen; skript krever fortsatt godkjenning hver gang. Samtaler har egne faner, og skrivebordsappen fortsetter nettleserarbeid i skjulte samtaler. Bildeservertilkoblinger omfatter sd-server, Ollama, Lemonade og OpenAI-kompatible adresser. Modellaliaser bevarer API-navn ved modellbytte.

Trening, eksport og maskinvare

Tekst-diffusjonsmodeller som LLaDA, Dream, SDAR, LLaDA2, Nemotron-Labs-Diffusion og DiffusionGemma får trening og chat med synlig avstøying. DeepSpeed ZeRO-2/ZeRO-3 støtter 4-bits QLoRA, full viderejustering, DPO og CPU-avlasting. DDP/LoRA-krasj med gradient checkpointing rettes.

Trening får forhåndstokeniserte datasett, tidligstopp og seed-styrte LoRA-startvekter. GRPO fast_inference utvides til Nemotron 3 Nano og blokk-FP8 med delte vLLM-vekter. MTP-hoder og DSpark-hjelpemodeller kan viderejusteres og eksporteres. Notatet beskriver også trening av en hjelpemodell for spekulativ dekoding med eksport til llama.cpp og vLLM.

GGUF-støtten utvides til Nemotron 3.5 Bolt/Super VL og Muse Spark Open; MLX får Xing4.0/MiniCPM-V 4.7. vLLM får resonneringsvalg; vLLM/SGLang får FP8-KV-mellomlager, minnegrense og seed. Enkelte eldre NVIDIA-/AMD-oppsett får Vulkan/CPU-reservevalg; blandede GPU-generasjoner velger attention-bakend per GPU.

Versjonsnavnet er merket beta. Dette er en tidligere utgave enn 0.1.909-beta. KIavisa har ikke testet funksjonene eller ytelsen.

FORKLARINGSVIDEO · BAKGRUNNSSTOFF

Lokal KI eller sky? Forskjellen forklart

Hva betyr det at en modell kjører lokalt eller i skyen? Vi bruker Ollamas dokumentasjon som eksempel. Dette er bakgrunnsstoff, ikke en nyhet eller en anbefaling av programmet.

Les tekstversjonen

Hva betyr det at en språkmodell kjøres lokalt? Ollamas dokumentasjon beskriver modeller som ligger i datamaskinens systemminne, grafikkminne eller begge deler. Beregningen utføres da på denne maskinen.

Ollama tilbyr også skymodeller. Selskapet opplyser at de ikke ser spørsmål eller data ved lokal kjøring. Ved bruk av skymodeller behandler tjenesten spørsmål og svar. Dette er selskapets egen beskrivelse, ikke en uavhengig personverntest.

Dokumentasjonen beskriver en innstilling som slår av Ollamas skyfunksjoner. Da deaktiveres både skymodeller og nettsøk. Denne forklaringen gjelder Ollama, ikke automatisk alle programmer som bruker lokale modeller.

Kilden til forklaringen er Ollamas offentlige dokumentasjon. KIavisa har ikke uavhengig testet selskapets personvernopplysninger. Videoen er bakgrunnsstoff, ikke en ny lansering eller en anbefaling av tjenesten.

Kildene til videoen

Dette er en forklaring basert på kildene over, ikke en uavhengig test. Vi bruker KI i manusarbeidet. Diagrammene er laget lokalt i EffectCraft, og videoen er redigert i FilmCraft. Syntetisk norsk tale: Microsoft Finn.

Kilder og åpenhet

Sammendraget bygger på opplysninger fra Unsloth / GitHub, publisert 15. oktober 2026. Les kilden for alle detaljene og eventuelle senere oppdateringer.

Les originalkilden hos Unsloth / GitHub

Vi har skrevet sammendraget med hjelp fra KI. Vi har ikke selv testet leverandørens påstander eller resultater. Bildet er en illustrasjon, ikke dokumentasjon av produktet eller hendelsen. Slik bruker vi kilder.