# Cohere führt Model Vault mit Confidential Computing für Zero-Exposure-KI-Inferenz für Unternehmen ein Source: TechNewsList (https://technewslist.com) Canonical URL: https://technewslist.com/de/article/cohere-launches-model-vault-confidential-computing-enterprise-inference-de Section: AI (https://technewslist.com/de/ai) Author: TechNewsList Language: de Published: 2026-09-18T19:22:06.885+00:00 Updated: 2026-09-18T19:22:07.05411+00:00 > Der Unternehmens-KI-Anbieter Cohere stellt hardwareisolierte Inferenzumgebungen vor, die Intel TDX, AMD SEV-SNP und Nvidia Confidential Computing kombinieren, um eine Zero-Cloud-Provider-Transparenz in sensible Unternehmensaufforderungen zu gewährleisten. ## TL;DR - Cohere gab die allgemeine Verfügbarkeit einer verschlüsselten Stufe innerhalb seiner Single-Tenant-Inferenzplattform Model Vault bekannt. - Workloads werden in hardwaregestützten, vertraulichen Ausführungsumgebungen ausgeführt und nutzen virtuelle Intel TDX- oder AMD SEV-SNP-Maschinen gepaart mit vertraulichen Nvidia-GPUs. - Die Hardware-Isolierung garantiert, dass weder Cohere-Ingenieure, Cloud-Host-Betreiber noch zugrunde liegende Hypervisoren Kundenaufforderungen abfangen oder Antworten im Klartext modellieren können. ## Key points - Vertrauliche Computing-Enklaven stellen sicher, dass Prompt-Tokens, Zwischenaktivierungstensoren und Ausgabeabschlüsse während der gesamten Laufzeitausführung im Speicher vollständig verschlüsselt bleiben. - Mit kryptografisch signierten Attestierungs-Tokens können Compliance-Prüfer in Unternehmen die Hardware-Integrität und Software-Herkunft überprüfen, bevor sie Anfragen stellen. - Das Serving-Framework garantiert eine souveräne Datenisolierung und geht direkt auf gesetzliche regulatorische Hürden im Rahmen von DSGVO, HIPAA und Bundesbankmandaten ein. - Eine dedizierte Single-Tenant-Infrastruktur eliminiert das Risiko von lauten Nachbarn bei mehreren Mandanten und sorgt für einen vorhersehbaren Token-Durchsatz ohne externe Ratendrosseln. - Cohere hat sich dazu verpflichtet, Kernkomponenten des Model Vault-Serving-Kabelbaums als Open-Source-Lösung bereitzustellen, um eine unabhängige Validierung durch externe Cybersicherheitsforscher zu ermöglichen. Der Entwickler von künstlicher Intelligenz für Unternehmen, Cohere, gab diese Woche mit der kommerziellen Einführung seiner Encrypted-Stufe innerhalb von Model Vault einen großen Infrastrukturdurchbruch bekannt. Die Plattform richtet hardwareisolierte Inferenzenklaven ein, die so konzipiert sind, dass proprietäre Unternehmensaufforderungen und sensible Ausgaben vor externer Gefährdung geschützt werden. Durch die Einbettung vertraulicher Datenverarbeitung direkt in die Modell-Serving-Fabric garantiert die Architektur, dass Unternehmens-Workloads während der gesamten Speicherverarbeitung verschlüsselt bleiben, wodurch Cloud-Hypervisoren und Hosting-Betreiber effektiv von der Inspektion des geistigen Eigentums des Unternehmens ausgeschlossen werden. Die Bereitstellung zielt direkt auf den größten Reibungspunkt ab, der die Einführung generativer Modelle in großen Unternehmen behindert: die Vertraulichkeit der Daten. Während Fortune-500-Unternehmen im Bankwesen, im Gesundheitswesen und in der Landesverteidigung bestrebt sind, von der automatisierten Argumentation und der durch Abruf erweiterten Generierung zu profitieren, hindern strenge Compliance-Anforderungen sie daran, unverschlüsselte proprietäre Daten über eine gemeinsam genutzte Cloud-Infrastruktur zu übertragen. Die Confidential-Computing-Integration von Cohere überwindet dieses Hindernis, indem die Laufzeitsicherheit innerhalb physisch isolierter Siliziumgrenzen verankert wird, anstatt sich auf standardmäßige Verwaltungssoftware-Garantien zu verlassen. ## Was passiert ist Cohere erweiterte sein verwaltetes Model Vault-Angebot durch die Einführung dedizierter Encrypted Vault-Instanzen, die in hardwaregestützten Trusted Execution Environments betrieben werden. Unter diesem neuen Bereitstellungsparadigma können Unternehmenskunden Frontier-Foundation-Modelle, einschließlich Cohere Command- und Embed-Modelle, in isolierten Infrastrukturen bereitstellen, ohne Daten in irgendeiner Phase des Berechnungslebenszyklus offenzulegen. Das System schützt Informationen im Ruhezustand im persistenten Speicher, während der Übertragung über verschlüsselte Netzwerknetze und, was entscheidend ist, während der Verwendung im flüchtigen Systemspeicher. Um seine Datenschutzgarantien gegenüber externen Regulierungsbehörden zu untermauern, hat Cohere automatisierte Fernbescheinigungsfunktionen in den Kern-API-Verbindungsablauf integriert. Vor der Übertragung vertraulicher Eingabeaufforderungsnutzdaten erhalten Clientanwendungen ein kryptografisch signiertes Hardware-Bestätigungstoken, das vom physischen Prozessor generiert wird. Dieses Token bestätigt, dass die Hostumgebung nicht manipuliert wurde, dass das genehmigte Firmware-Profil aktiv ist und dass keine nicht autorisierten Debugging-Prozesse an die virtuelle Maschine angehängt sind. ![Hardware-Speicherverschlüsselungsarchitektur, die auf vertraulichen virtuellen Intel TDX-Maschinen und Nvidia-Beschleunigern läuft](https://rkhynbcsbnkkcwgexzwg.supabase.co/storage/v1/object/public/media/api/1789755142478-wmda8g-cohere-launches-model-vault-confidential-computing-enterprise-inference-inside-1-6dbe609098.webp) *Hardware-Speicherverschlüsselungsarchitektur, die auf vertraulichen virtuellen Intel TDX-Maschinen und Nvidia-Beschleunigern läuft.* ## Warum es wichtig ist Der architektonische Wandel vom vertraglichen Datenschutz zur kryptografischen Hardware-Isolation stellt einen grundlegenden Wendepunkt für kommerzielle künstliche Intelligenz dar. In Standard-Cloud-Architekturen behalten System-Hypervisoren und Root-Infrastrukturbetreiber theoretisch Zugriff auf Klartext-Speicherinhalte, wodurch Unternehmen potenziellen Insider-Bedrohungen, Konfigurationsfehlern und der Gefährdung durch staatliche Vorladungen ausgesetzt werden. Durch die Durchsetzung der Verschlüsselung auf Siliziumebene macht Model Vault den Kundenspeicher für alle externen Parteien, einschließlich des Hosting-Cloud-Anbieters und Cohere selbst, völlig unlesbar. Diese Sicherheitslage ist besonders für regulierte multinationale Unternehmen von entscheidender Bedeutung, die komplexe grenzüberschreitende Anforderungen an die Datensouveränität bewältigen müssen. Unter strengen Rahmenbedingungen wie der Datenschutz-Grundverordnung der Europäischen Union und dem Health Insurance Portability and Accountability Act der Vereinigten Staaten erfordert die Übertragung von Rohdatensätzen an externe API-Endpunkte oft umfassende Compliance-Prüfungen. Hardware-isolierte vertrauliche Inferenz sorgt für eine überprüfbare mathematische Isolierung und ermöglicht es Compliance-Teams, die Zeitpläne für die KI-Beschaffung von Monaten auf Tage zu verkürzen. ## Technische Details Die technische Architektur, die der verschlüsselten Ebene zugrunde liegt, verbindet vertrauliche virtuelle Hostmaschinen mit vertraulichen Grafikverarbeitungsclustern. Auf der allgemeinen Rechenebene nutzt das System die hardwarebasierte Virtualisierungsisolation und stellt entweder Intel Trust Domain Extensions oder AMD Secure Encrypted Virtualization mit Secure Nested Paging bereit. Diese Technologien isolieren das Gastbetriebssystem und die Inferenzlaufzeit von der Cloud-Hostmaschine und dem Hypervisor und verschlüsseln alle Speicherseiten mit dedizierten, von der Hardware verwalteten Schlüsseln, die dynamisch wechseln. Auf der Beschleunigungsebene koordiniert Cohere die Ausführung auf modernen Nvidia Tensor Core-Grafikprozessoren, die im vertraulichen Computermodus ausgeführt werden. Die Kommunikation mit hoher Bandbreite zwischen den vertraulichen Zentralprozessoren und Grafikbeschleunigern erfolgt über verschlüsselte PCIe-Kanäle, die durch Hardware-Root-of-Trust-Authentifizierung geschützt sind. Zwischenaktivierungstensoren, Aufmerksamkeitsgewichtungsmatrizen und generierte Token-Streams bleiben in sicheren Hardwarepuffern versiegelt und verhindern so Seitenkanal-Snooping und Kaltstart-Angriffe auf physische Speicherextraktion. ![Kryptografisches Attestierungs- und Audit-Dashboard, das überprüfbare Compliance-Nachweise für Unternehmensbereitstellungen bietet](https://rkhynbcsbnkkcwgexzwg.supabase.co/storage/v1/object/public/media/api/1789755147404-c7zuwe-cohere-launches-model-vault-confidential-computing-enterprise-inference-inside-2-07bf542179.webp) *Kryptografisches Attestierungs- und Audit-Dashboard, das überprüfbare Compliance-Nachweise für Unternehmensbereitstellungen bietet.* ## Auswirkungen auf Markt und Branche Der Schwerpunkt von Cohere auf überprüfbarer Sicherheit vertieft seine Wettbewerbsdifferenzierung gegenüber Anbietern von Hyperscale-Modellen wie OpenAI, Google und Microsoft. Während verbraucherorientierte Laboratorien der Ausweitung multimodaler Argumentations-Benchmarks Priorität eingeräumt haben, betrachten Entscheidungsträger in Unternehmen zunehmend überprüfbare Datengrenzen als die eigentliche Voraussetzung für den Einsatz von Produktionsagenten. Durch das Angebot isolierter Tresore mit einem Mandanten und ohne Leistungseinbußen durch laute Nachbarn stärkt Cohere seine Position als bevorzugter Partner für risikoscheue Unternehmensinstitutionen. Die Ankündigung erhöht auch den Wettbewerbsdruck im gesamten Enterprise-Cloud-Ökosystem. Große Cloud-Anbieter und Halbleiterhersteller haben stark in vertrauliche virtuelle Instanzen investiert, aber schlüsselfertige verwaltete Software-Stacks, die große Sprachmodelle unterstützen, sind weiterhin fragmentiert. Der integrierte Serving-Stack von Cohere senkt die technische Hürde für den Einsatz vertraulicher KI und zwingt konkurrierende Plattformanbieter dazu, ihre eigenen Hardware-attestierten Enterprise-Service-Stufen zu beschleunigen. ## Worauf man als Nächstes achten sollte Branchenbeobachter werden die breitere Produktionseinführung der verschlüsselten Stufe genau beobachten, da frühe Beta-Teilnehmer im kommerziellen Bankwesen und in der pharmazeutischen Forschung ihre Arbeitsbelastung skalieren. Wichtige Leistungsbenchmarks werden sich darauf konzentrieren, ob die Speicherverschlüsselung auf Hardwareebene bei parallelen Generierungsaufgaben mit hohem Durchsatz spürbare Latenznachteile mit sich bringt, insbesondere bei großen unternehmensweiten Abrufpipelines. Darüber hinaus hat sich Cohere dazu verpflichtet, die Kernelemente seines Model Vault für die Containerarchitektur in den kommenden Entwicklungszyklen als Open-Source-Lösung bereitzustellen. Sicherheitsingenieure und Penetrationstest-Organisationen von Drittanbietern werden diese öffentlichen Repositorys genau untersuchen, um die Attestierungsketten zu validieren und Speicherisolationsgrenzen zu prüfen. Unternehmensakteure sollten auch mögliche Erweiterungen der vertraulichen Ebene verfolgen, um verteilte Feinabstimmungs- und föderierte Domänenanpassungspipelines einzubeziehen. ## Quellen - [VentureBeat: Cohere stellt Model Vault mit Confidential Computing vor, um KI-Inferenzen in Unternehmen abzuschirmen](https://venturebeat.com/ai/cohere-model-vault-confidential-computing/) - [Cohere-Beamter: Einführung von Confidential Computing in Model Vault](https://cohere.com/blog/model-vault-confidential-computing) - [Superpower Daily: Cohere nutzt Intel TDX und Nvidia Enclaves, um Unternehmens-KI-Eingabeaufforderungen zu schützen](https://superpowerdaily.com/cohere-confidential-ai-intel-tdx-nvidia/) Mentions: Zusammenhängen, Aidan Gomez, Nvidia, Intel, AMD ## Sources - [VentureBeat](https://venturebeat.com/ai/cohere-model-vault-confidential-computing/) - [Cohere-Beamter](https://cohere.com/blog/model-vault-confidential-computing) - [Supermacht täglich](https://superpowerdaily.com/cohere-confidential-ai-intel-tdx-nvidia/)