On-Premise-KI und souveräne KI

Einfach erklärt

On-Premise entspricht dem eigenen Fahrzeug in der eigenen Garage. Souveränität heißt zusätzlich, dass Sie Werkstatt und Hersteller wechseln können, ohne das Fahrzeug aufzugeben.

Was technisch passiert

Bei On-Premise-KI stehen Server, Modelle und Datenhaltung in Räumen, über die das Unternehmen selbst verfügt. Anfragen, Dokumente und Protokolle verlassen das eigene Netz nicht, solange keine externe Schnittstelle angebunden ist. Das gilt nicht nur für das Sprachmodell, sondern für die gesamte Kette: Transkription, Embeddings, Vektorsuche und die Ablage der Ergebnisse.

Souveräne KI ist der weitere Begriff und stellt vier Fragen. Wo liegen die Daten? Wer verfügt über die Modelle, und lassen sie sich austauschen? Wer betreibt das System und kann darauf zugreifen? Wie abhängig ist man von einem einzelnen Anbieter? Offene Modelle, standardisierte Schnittstellen und dokumentierte Datenwege sind die technischen Mittel dafür. Ein System kann im eigenen Haus stehen und trotzdem wenig souverän sein, etwa wenn es nur mit dem Lizenzserver eines Herstellers startet.

Datenschutzrechtlich verschiebt On-Premise die Fragen, es beseitigt sie nicht. Wer personenbezogene Daten an ein Cloud-Modell schickt, setzt in der Regel einen Auftragsverarbeiter ein und braucht nach Art. 28 DSGVO einen Vertrag mit ihm. Sitzt der Anbieter außerhalb der EU oder greift er von dort zu, kommen die Regeln für Übermittlungen in Drittländer ab Art. 44 DSGVO hinzu. Läuft das Modell im eigenen Haus und erhält kein Dienstleister Zugriff, stellen sich diese beiden Fragen für den Modellbetrieb nicht. Wartet ein externer Partner das System, kann wiederum eine Auftragsverarbeitung vorliegen. Diese Einordnung ersetzt keine Rechtsberatung im Einzelfall.

In der Praxis

AI SolutionX baut On-Premise-KI-Systeme vom einzelnen GPU-Server bis zum verteilten Verbund. Betrieben werden sie entweder vollständig beim Kunden oder auf Servern von AI SolutionX in Deutschland; aus Sicht des Kunden ist streng genommen nur die erste Variante On-Premise. Meist entsteht eine hybride Architektur: lokale Modelle für Vertrauliches, externe Dienste nur dort, wo es fachlich und rechtlich passt. Der eigene Forschungsverbund aus vier DGX Spark zeigt den Ansatz in größerem Maßstab: Prompts, Protokolle, Modelle und Berechtigungen verbleiben im eigenen Netz. Datenschutz ist Fachgebiet der Geschäftsführung, die Datenwege werden dokumentiert, damit Nachweispflichten erfüllbar bleiben.

Wann ist das sinnvoll?

• Wenn Geschäftsgeheimnisse, Quellcode oder besonders schützenswerte personenbezogene Daten verarbeitet werden.
• Wenn das Anfragevolumen hoch ist und eine Abrechnung pro Anfrage schwer planbar wird.
• Wenn die Abhängigkeit von Verfügbarkeit, Preisen oder Nutzungsbedingungen eines einzelnen KI-Anbieters ein Risiko darstellt.
• Weniger geeignet, wenn nur gelegentlich ein Modell gebraucht wird und keine vertraulichen Daten im Spiel sind; dann ist ein vertraglich sauber geregelter Cloud-Dienst oft der einfachere Weg.