Kort fortalt

  • v1.4.0rc0 er merket som en forhåndsutgave.
  • GLM-5.3-Flash og Qwen-Image-Layered får støtte.
  • NVIDIA beskriver kjente oppstarts- og krasjproblemer.

Utgivelseskandidat, ikke stabil 1.4.0

NVIDIA publiserte TensorRT-LLM v1.4.0rc0 den 14. oktober klokken 16.35 UTC. GitHub merker utgaven som en forhåndsutgave. Det er en utgivelseskandidat, ikke en ferdig stabil 1.4.0.

Notatet legger til støtte for GLM-5.3-Flash og K-EXAONE-2 i PyTorch-delen, og Qwen-Image-Layered med FP8 og Cache-DiT. MiniMax-M3 får også støtte for NVFP4 i KV-mellomlageret. Dette gjelder modellkjøring i verktøyet, ikke nye datoer for modellfamilienes opprinnelige lanseringer.

Brytende API-endringer og begrensninger

Python-delen av KVCacheManagerV2 fjernes. Dette bryter bakoverkompatibiliteten. Utgaven får samtidig kommandolinjeoverstyring av konfigurasjon og rapportering av godkjenningsandel for spekulativ dekoding per forespørsel.

NVIDIA oppgir at enkelte TP2-arbeidslaster med strømming eller RPC kan henge ved oppstart av arbeidere når MPI-pooler gjenbrukes. DeepSeek MLA-modeller kan også krasje på SM120- og SM121-maskiner når bestemte CUDA-grafer fanges. Det betyr at listen over nye funksjoner ikke kan leses som en generell bekreftelse på stabil drift. KIavisa har ikke kjørt utgivelseskandidaten eller kontrollert de oppgitte feilene på egen maskinvare.

Kilder og åpenhet

Sammendraget bygger på opplysninger fra NVIDIA/TensorRT-LLM / GitHub, publisert 14. oktober 2026. Les kilden for alle detaljene og eventuelle senere oppdateringer.

Les originalkilden hos NVIDIA/TensorRT-LLM / GitHub

Vi har skrevet sammendraget med hjelp fra KI. Vi har ikke selv testet leverandørens påstander eller resultater. Bildet er en illustrasjon, ikke dokumentasjon av produktet eller hendelsen. Slik bruker vi kilder.