Kort fortalt

  • Cohere har åpnet offentlig beta for konfidensiell inferens med Nvidia H100 på Microsoft Azure.
  • Ifølge Cohere skal kunden kunne kontrollere kjøremiljøet før beskyttet forespørselsinnhold sendes.
  • Metadata forblir delvis synlig, og beskyttelsen erstatter ikke applikasjonssikkerhet eller krav til hvor data behandles.

Skal beskytte data mens modellen arbeider

Cohere har åpnet en offentlig beta som skal beskytte sensitive opplysninger også mens en KI-modell behandler dem. Utvidelsen av Model Vault ble kunngjort 22. oktober og kjører på Nvidia H100-grafikkprosessorer hos Microsoft Azure.

Kryptering beskytter vanligvis data under lagring og overføring. Her skal maskinvaren også skjerme arbeidsminnet under inferens, altså når modellen behandler en forespørsel og lager et svar. Ifølge Cohere omfatter det beskyttede miljøet både hovedprosessoren og grafikkprosessoren, med kryptert trafikk mellom dem.

Selskapet beskriver løsningen som en måte å hindre at infrastruktur utenfor dette miljøet, inkludert Cohere-operatører og skyleverandøren, får lese beskyttet arbeidsminne. Dette er leverandørens beskrivelse av sikkerheten, ikke resultatet av en uavhengig sikkerhetsrevisjon.

Kunden skal kontrollere før data sendes

Før en beskyttet forespørsel sendes, skal programvaren på kundesiden kontrollere kryptografisk signerte opplysninger om maskinvare, fastvare og programvare. Denne kontrollen kalles fjernattestering. Hvis kjøremiljøet ikke oppfyller den godkjente sikkerhetspolicyen, skal klienten nekte å sende innholdet, opplyser Cohere.

Selve forespørselsinnholdet krypteres med Oblivious HTTP, forkortet OHTTP, til det attesterte miljøet. Ifølge den tekniske gjennomgangen kan mellomliggende systemer dermed rute forespørselen uten å lese det beskyttede innholdet. Svaret beskyttes på returveien.

Skjuler ikke all informasjon

Cohere oppgir at tidspunkt, meldingsstørrelse, trafikkmengde og rutingsinformasjon fortsatt kan være synlig. API-legitimasjonen og modellidentifikatoren ligger også utenfor innholdet som OHTTP beskytter.

Beskyttelsen bygger fortsatt på tillit til blant annet maskinvaren, fastvaren, programvaren inne i miljøet og attesteringssystemet. Enkelte fysiske angrep og sidekanalangrep faller utenfor trusselmodellen. Løsningen gir heller ingen egen garanti for tilgjengelighet og løser ikke instruksjonsangrep mot modellen, feil i tilgangskontroll eller usikker bruk av verktøy.

Modellen behandler data i klartekst inne i det beskyttede miljøet. Teknologien bestemmer ikke hvilket land behandlingen skjer i og erstatter ikke krav til personvern, regelverk eller avtaler. Betaen bruker H100; støtte for blant annet Nvidia B200 og publisering av kildekoden til den konfidensielle inferensstakken er foreløpig planer, ifølge Cohere.

Flere kilder

Kilder og åpenhet

Sammendraget bygger på opplysninger fra Cohere, publisert 22. oktober 2026 kl. 21:59. Les kilden for alle detaljene og eventuelle senere oppdateringer.

Les originalkilden hos Cohere

Vi har skrevet sammendraget med hjelp fra KI. Vi har ikke selv testet leverandørens påstander eller resultater. Bildet er en illustrasjon, ikke dokumentasjon av produktet eller hendelsen. Slik bruker vi kilder.