Die 10 Plattformen für KI-Governance im Mittelstand

Der nächste deutsche KI-Workspace. EU-Residenz ist echt. Die Anwendung gehört euch trotzdem nicht.

Langdock trifft denselben Käufer. Chat, Agenten, Workflows, RAG, MCP. Hosting in Frankfurt ist Residenz. On-Prem auf eurem Kubernetes gibt es. Aber erst mit einem Enterprise-Vertrag. Meist ab 1.000 Nutzern. Und weiter als Lizenz pro Sitz. Die Software bleibt geschlossen. Für den Mittelstand ist das die beste geschlossene Alternative in DACH. Es bleibt Miete.

• Hosting in Frankfurt. On-Prem gibt es, aber erst im Enterprise
• Kein öffentlicher Quellcode zum Prüfen oder Forken
• Enthaltene Modelle sind gedeckelt. Dann fällt ihr auf ein günstigeres Modell
• Eigene Keys, aber deren Modell-Liste

Kein US-Konzern. Damit entfällt der CLOUD Act über eine US-Mutter. Die Anwendung gehört euch trotzdem nicht.

Mistral sitzt in der EU. Die Daten bleiben in der EU. Der Vertrag läuft unter EU-Recht. On-Prem gibt es für regulierte Einsätze. ISO 27001 ist öffentlich. Nach Open Source, das ihr selbst betreibt, ist das das stärkste Argument bei Sitz und Recht. Der Preis liegt im echten Enterprise. Oft über Mittelstands-Budgets. Was ihr kauft, ist Mistrals Produkt. Nicht euer Fork.

• Sitz in der EU. Kein CLOUD Act über eine US-Mutter
• On-Prem möglich. Der Einstieg ist Enterprise, nicht Mittelstand
• Die Anwendung bleibt geschlossen
• Modelle auch über US-Clouds buchbar. Der Weg der Daten zählt

Deutsche Modelle. On-Prem und EU-Betrieb. Für den Mittelstand fehlt der Workspace, in dem die Arbeit passiert.

Aleph Alpha baut für Behörden, Verteidigung und regulierte Branchen. Pharia läuft on-prem oder in der EU. AVV nach deutschem Recht. Kein Training auf Kundendaten. Bei den Modellen greift der CLOUD Act nicht. Es ist trotzdem kein Workspace mit Agenten und Workflows für Marketing, Recht und Vertrieb. Wer Pharia kauft, kauft Inferenz. Die Anwendung braucht ihr trotzdem.

• On-Prem und EU-Betrieb. AVV nach deutschem Recht
• Gebaut für hoheitliche Einsätze. Nicht für den typischen Mittelstand
• Kein öffentlicher Workspace zum Forken
• Passt als Modell hinter Navigator. Nicht als Ersatz

Joule sitzt in der SAP-Landschaft. Europäische Modelle ändern nicht, wem die Anwendung gehört.

Wer SAP fährt, nimmt Joule. Wenig Reibung. Er kann Mistral und Aleph Alpha nutzen. SAP wirbt mit Sovereign Cloud. Der generative AI Hub ist kein klassisches On-Prem. Das Modell läuft nicht auf euren Servern. Die Anwendung bleibt SAP. Governance heißt hier: SAP-Prozesse, SAP-Kontrolle. Kein Workspace, den ihr behaltet, wenn der Vertrag endet.

• Tiefe ERP-Anbindung. Die ersetzt kein Workspace
• Sovereign Cloud. Kein LLM auf eurer eigenen Hardware
• Geschlossene Anwendung. Lizenz pro Sitz
• Sinnvoll neben einem Workspace, den ihr besitzt. Nicht statt ihm

Inventar, Risiko, Nachweis. Das leistet eine KI-Policy-Datei nicht. Die Inferenzkette ändert es trotzdem nicht.

watsonx.governance ist die reifste Governance-Suite in dieser Liste. Modellinventar. Risiko. Nachweise für die KI-VO. Mittelstand kauft sie selten allein. IBM ist ein US-Konzern. Die Suite beschreibt Systeme, die oft bei IBM oder einem Hyperscaler laufen. Eine Policy in watsonx ändert nicht, wer eure Prompts herausverlangen kann.

• Stark bei Inventar, Risiko und Nachweisen für die KI-VO
• US-Mutter. Der CLOUD Act bleibt, wo die Inferenz läuft
• Ersetzt keinen Workspace und keine eigenen Modelle
• Ergänzt einen Stack, den ihr besitzt

Claude ist oft das stärkste Modell im Raum. Wer Zugang hat, entscheidet jemand anderes.

Am 12. Juni kam ein US-Exportbefehl. Anthropic musste zwei neue Modelle für Personen ohne US-Pass sperren. Anthropic schaltete sie für alle ab. Drei Tage nach Launch. Das ist keine DSGVO-Theorie. Das ist ein Schalter. Residenz und Zero-Retention gibt es. Es sind Zusagen eines US-Anbieters. Für den Mittelstand heißt das: Frontier dort, wo es den Preis wert ist. Die Arbeit, die bleiben muss, legt ihr auf Modelle, die ihr selbst hosten könnt.

• Frontier-Qualität. Die braucht Routinearbeit selten
• US-Mutter. Exportkontrolle kann den Zugang kappen. Ohne Vorwarnung
• Zero-Retention ist Option und Vertrag. Kein Beweis
• Passt hinter ein Routing, das ihr steuert. Nicht als einzige Schicht

Vertex AI in europe-west ist Residenz. Die Firma hinter den Bytes bleibt Google.

Gemini und Vertex AI sind der zweite Default nach Copilot. Vor allem, wenn Google schon im Haus ist. EU-Regionen, AVV, kein Training im Enterprise-Tarif: Residenz und Vertrag. Der CLOUD Act gilt für die US-Mutter. Für KI-Datenschutz kann das reichen. Für Souveränität unter der KI-VO nicht. Die Frage ist, wer Zugriff erzwingen kann.

• EU-Regionen und Workspace-Anbindung sind real
• US-Mutter. CLOUD Act und DPF-Risiko bleiben
• Die Anwendung ist geschlossen
• Kein Selbsthosten des Workspace für den Mittelstand

Der Name auf jeder KI-Policy. Residenz und no-training sind echte Controls. Souveränität sind sie nicht.

ChatGPT Enterprise steht in den meisten KI-Policies. Auch die API mit Zero-Data-Retention, wenn der Account passt. Standard bleibt ein Speicherfenster. Oft bis 30 Tage. Auf US-Infrastruktur. So lange, bis Zero-Retention genehmigt und geprüft ist. Die Firma ist US-kontrolliert. Viele Transfers stehen auf dem EU-US Data Privacy Framework. Das ist der dritte Anlauf. Er steht wieder vor Gericht. Zwei Vorgänger sind gekippt.

• Enterprise: kein Training, SSO, Residenz. Dokumentierte Controls
• Standard ist nicht Zero-Retention. Das ist Antrag plus Prüfung
• US-Mutter. CLOUD Act und DPF vor Gericht
• Die Anwendung mietet ihr komplett

Der häufigste Haken in der KI-Policy. Microsofts eigener Jurist hat unter Eid gesagt: er kann das Ergebnis nicht garantieren.

Copilot gewinnt, weil Office schon da ist. Und „EU-Datengrenze“ auf der Folie steht. Residenz in Azure-EU ist real. Und nützlich. Souveränität folgt der US-Mutter. Im Juni 2025 stand Microsofts Frankreich-Jurist vor dem Senat. Unter Eid. Kann er garantieren, dass Daten französischer Bürger nie ohne Zustimmung des Staates an die USA gehen? Nein. Für eine Bank, ein Krankenhaus oder eine Behörde ist das kein akzeptables Risiko. Willen ist nicht Fähigkeit.

• Tiefste Office-Anbindung. Geringste Reibung beim Start
• EU-Region ist Residenz. US-Mutter ist CLOUD Act
• Eigene Aussage unter Eid: keine Garantie gegen US-Zugriff
• KI-Policy und Purview dokumentieren Nutzung. Sie ändern die Architektur nicht