Kort fortalt

  • /v1/systemone gir et nytt endepunkt for strukturerte beslutninger.
  • Minste Python-versjon er nå 3.11.
  • Nemotron 3.5 ASR-støtten omfatter ikke direkte sanntidsstrømming.

Strukturerte svar fra beslutningsmodeller

vLLM 0.32.0 ble publisert 18. oktober klokken 06.50 UTC. Utgaven får endepunktet POST /v1/systemone for strukturerte beslutninger av typene choice, noul og score. Versjonsnotatet oppgir støtte for blant annet Cloudflare/clef-omni og LiquidAI/d1-3B.

En ny generell parser kan lese modellkontrollpunktets response_template for verktøykall og resonnering, i stedet for å kreve en egen parser for hver modell. Nye modeller omfatter også EmbeddingGemma 2 og MiniCPM-V 4.7.

Endrer krav og sikkerhetsgrenser

Python 3.10 støttes ikke lenger; minsteversjonen er nå 3.11. Standardinnstillingen for CORS endres fra alle opphav til ingen, slik at nettleserklienter må ha et uttrykkelig tillatt opphav. Notatet beskriver dessuten tidsbegrenset behandling av chatmaler og avvisning av JSON-skjemaer som er mer enn 64 nivåer dype.

Nemotron 3.5 ASR kan brukes til transkripsjon av komplette lydopptak, men direkte sanntidsstrømming er uttrykkelig ikke støttet ennå. Utviklerne oppgir også flere maskinvareavhengige ytelsesforbedringer. De er ikke målinger utført av KIavisa, og de nye sikkerhetsgrensene er ikke en garanti mot alle sårbarheter.

Kilder og åpenhet

Sammendraget bygger på opplysninger fra vllm-project/vllm / GitHub, publisert 18. oktober 2026. Les kilden for alle detaljene og eventuelle senere oppdateringer.

Les originalkilden hos vllm-project/vllm / GitHub

Vi har skrevet sammendraget med hjelp fra KI. Vi har ikke selv testet leverandørens påstander eller resultater. Bildet er en illustrasjon, ikke dokumentasjon av produktet eller hendelsen. Slik bruker vi kilder.