Viele Anbieter versprechen KI aus Europa, sichere Datenverarbeitung und einen Betrieb ohne Verbindung zu externen Diensten. Was technisch dahintersteckt, bleibt oft unklar. Genau dort beginnt das Problem.
Eine Benutzeroberfläche kann in Österreich betrieben werden, während sämtliche Eingaben an ein externes KI-Modell weitergeleitet werden. Umgekehrt kann ein Modell vollständig auf dedizierter Hardware laufen, ohne dass Daten die Infrastruktur verlassen. Nach außen sehen beide Lösungen ähnlich aus. Bei Kontrolle, Verantwortung und Datenschutz liegen Welten dazwischen. Wer KI-Hosting bewertet, sollte daher nicht beim Standort des Webinterfaces aufhören. Entscheidend ist der gesamte Datenweg.
Drei Betriebsmodelle, drei unterschiedliche Realitäten
Bei KI-Hosting lassen sich vereinfacht drei Modelle unterscheiden:
- selbst betriebene KI auf eigener oder dedizierter Hardware
- Managed AI Hosting mit klar definierter Betriebsverantwortung
- Plattformen, die externe KI-Dienste über eine eigene Oberfläche anbinden
Keine dieser Varianten ist automatisch gut oder schlecht. Sie unterscheiden sich jedoch erheblich bei Aufwand, Kontrolle, Kosten und Abhängigkeiten.
Bare Metal: maximale Kontrolle, volle Verantwortung
Beim Bare-Metal-Betrieb steht die Hardware exklusiv für ein Unternehmen bereit. Das KI-Modell läuft direkt auf einem dedizierten Server oder innerhalb einer darauf aufgebauten, isolierten Umgebung. CPU, Arbeitsspeicher, GPU und lokaler Speicher werden nicht mit anderen Kunden geteilt. Das schafft klare Verhältnisse. Unternehmen können selbst bestimmen, welche Modelle eingesetzt werden, wo Daten gespeichert sind und welche Netzwerkverbindungen erlaubt werden. Externe API-Aufrufe lassen sich vollständig unterbinden. Auch Modellversionen, Updates und Zugriffsrechte bleiben unter eigener Kontrolle.
Diese Unabhängigkeit hat ihren Preis. Ein KI-System besteht nicht nur aus einem Sprachmodell und einer Grafikkarte. Für den stabilen Betrieb braucht es ein abgestimmtes System aus Betriebssystem, GPU-Treibern, Laufzeitumgebung, Inferenzsoftware, Zugriffskontrolle, Monitoring und Datensicherung. Bei einer RAG-Anwendung kommen Dokumentenverarbeitung, Embedding-Modell und Vektordatenbank hinzu.
Wer Bare Metal selbst betreibt, übernimmt damit auch die operative Verantwortung. Sicherheitsupdates müssen bewertet, Modellversionen getestet und Kapazitäten geplant werden. Fällt eine GPU aus oder ist der Speicher voll, muss intern jemand reagieren können.
Bare Metal eignet sich vor allem für Organisationen, die über das notwendige Know-how verfügen und maximale technische Kontrolle benötigen. Für sensible Daten, gleichmäßige Auslastung oder besondere Compliance-Anforderungen kann dieser Ansatz sinnvoll sein. Ohne eigene Betriebsressourcen wird die vermeintliche Unabhängigkeit allerdings schnell zum Risiko.
Managed AI Hosting: Kontrolle ohne kompletten Eigenbetrieb
Managed AI Hosting verbindet dedizierte oder klar isolierte Infrastruktur mit einem professionellen Betrieb. Der Hosting-Anbieter kümmert sich je nach Leistungsumfang um Hardware, Betriebssystem, Treiber, Sicherheitsupdates, Überwachung und Wiederherstellung.
Das Unternehmen bleibt für den fachlichen Einsatz der KI verantwortlich. Der Anbieter übernimmt definierte technische Aufgaben. Diese Trennung muss vertraglich und organisatorisch klar geregelt sein. Der größte Vorteil liegt im laufenden Betrieb. KI-Infrastruktur verändert sich schnell. Neue Modellversionen benötigen andere Laufzeitumgebungen. GPU-Treiber müssen zur eingesetzten Software passen. Sicherheitslücken betreffen nicht nur das Betriebssystem, sondern auch Bibliotheken, Container-Images und Schnittstellen. Ein Managed-Anbieter kann diese Komponenten überwachen und kontrolliert aktualisieren.
Trotzdem ist „managed“ keine Garantie für einen vollständig lokalen Betrieb. Entscheidend ist, welche Leistungen tatsächlich auf der eigenen Infrastruktur erbracht werden. Läuft nur die Benutzeroberfläche lokal, während das Sprach- oder Embedding-Modell über eine externe API angesprochen wird, verlassen Daten weiterhin die Umgebung.
Ein seriöses Angebot beschreibt deshalb nicht nur den Serverstandort. Es legt offen, wo das Modell ausgeführt wird, welche Unterauftragnehmer beteiligt sind, wer administrativen Zugriff hat und ob ausgehende Verbindungen technisch notwendig sind.
Der Wrapper: eigene Oberfläche, fremde Verarbeitung
Ein Wrapper ist eine Anwendung, die einen bestehenden KI-Dienst über eine eigene Oberfläche verfügbar macht. Nutzer sehen das Logo und die Plattform des Anbieters. Im Hintergrund werden Prompts, Dokumente oder Textausschnitte über eine API an einen externen Modellanbieter übertragen.
Technisch kann das durchaus sinnvoll sein. Ein Wrapper kann Zugriffsrechte ergänzen, verschiedene Modelle bündeln oder die Nutzung für Beschäftigte vereinfachen. Problematisch wird es, wenn der Eindruck eines lokalen KI-Betriebs entsteht, obwohl die eigentliche Verarbeitung außerhalb der angebotenen Infrastruktur stattfindet. Aussagen wie „Ihre Daten werden nicht zum Training verwendet“ reichen dabei nicht aus. Kein Training bedeutet lediglich, dass die Eingaben nach Angaben des Dienstes nicht zur Verbesserung des Modells genutzt werden. Die Daten werden trotzdem übertragen und verarbeitet. Abhängig vom Dienst können außerdem Protokolle, Metadaten oder temporäre Kopien entstehen.
Auch ein Serverstandort in Europa beantwortet nicht alle Fragen. Zu prüfen sind die beteiligten Unternehmen, Supportzugriffe, Unterauftragnehmer, Telemetrie, Protokollierung und mögliche Drittlandtransfers. Erst daraus ergibt sich, wer tatsächlich Zugriff auf die Daten erhalten kann.
Ein Wrapper ist daher nicht grundsätzlich unsicher. Er muss aber als solcher erkennbar sein. Unternehmen sollten wissen, dass sie keinen eigenen Modellbetrieb einkaufen, sondern den Zugang zu einem externen KI-Dienst.
Der Datenweg entscheidet
Die wichtigste Frage bei jedem KI-Hosting lautet: Wohin fließen die Daten?
Das betrifft mehr als die sichtbare Eingabe im Chat. Eine typische Unternehmenslösung kann folgende Informationen verarbeiten:
- Prompts und hochgeladene Dateien
- Textabschnitte aus internen Dokumenten
- Embeddings und Einträge in der Vektordatenbank
- Antworten des Modells
- Benutzerkonten und Berechtigungen
- Zugriffs- und Fehlerprotokolle
- zwischengespeicherte Daten und Backups
Jede beteiligte Komponente muss betrachtet werden. Ein lokal betriebenes Sprachmodell hilft wenig, wenn die Dokumente für die Erstellung der Embeddings an einen externen Dienst geschickt werden. Dasselbe gilt für Monitoring-, Analyse- oder Supportsysteme, die unbemerkt technische Daten an Dritte übertragen.
Für einen wirklich abgeschotteten Betrieb müssen das Sprachmodell, das Embedding-Modell, die Vektordatenbank und die Verwaltungswerkzeuge innerhalb der kontrollierten Umgebung laufen. Ausgehende Verbindungen sollten auf das notwendige Minimum beschränkt und nachvollziehbar dokumentiert sein.
Diese Fragen sollten Anbieter beantworten können
Vor einer Entscheidung sollten Unternehmen konkrete Antworten verlangen:
- Wo läuft das eigentliche KI-Modell?
- Werden Prompts oder Dokumente an externe APIs übertragen?
- Läuft auch das Embedding-Modell innerhalb derselben Umgebung?
- Welche Daten werden protokolliert und wie lange gespeichert?
- Welche Unterauftragnehmer sind beteiligt?
- Wer hat administrativen Zugriff auf die Systeme?
- Sind ausgehende Netzwerkverbindungen erforderlich?
- Können Daten und Modelle vollständig exportiert werden?
- Wie werden Daten in Vektordatenbanken, Caches und Backups gelöscht?
- Welche Aufgaben übernimmt der Anbieter im laufenden Betrieb?
Bleiben diese Fragen unbeantwortet, ist auch das Versprechen eines „sicheren KI-Hostings“ wenig belastbar.
Welche Variante passt zu welchem Unternehmen?
Bare Metal bietet die höchste Kontrolle, verlangt aber eigenes Fachwissen und ausreichende Betriebsressourcen. Das Modell eignet sich für Organisationen, die ihre KI-Plattform selbst entwickeln und administrieren können.
Managed AI Hosting ist sinnvoll, wenn Daten und Modelle in einer kontrollierten Umgebung bleiben sollen, der technische Betrieb aber nicht vollständig intern abgedeckt werden kann. Voraussetzung ist ein Anbieter, der Architektur, Datenwege und Verantwortlichkeiten offenlegt.
Ein Wrapper kann für Tests oder unkritische Anwendungen praktisch sein. Sobald vertrauliche, personenbezogene oder geschäftskritische Informationen verarbeitet werden, muss jedoch klar sein, welcher externe Dienst im Hintergrund arbeitet und welche Vertrags- und Datenschutzbedingungen gelten.
Nicht das Logo entscheidet, sondern die Architektur
KI-Hosting ist keine einheitliche Leistung. Eine lokale Benutzeroberfläche macht aus einer externen API noch keine lokale KI. Umgekehrt muss ein souveräner Betrieb nicht zwingend vollständig vom eigenen IT-Team betreut werden.
Entscheidend sind nachvollziehbare Datenwege, klare Verantwortlichkeiten und die Möglichkeit, externe Verbindungen technisch zu kontrollieren. Wer diese Punkte vor Vertragsabschluss prüft, kann Bare Metal, Managed Hosting und Wrapper sachlich vergleichen.
internex betreibt KI-Infrastrukturen auf Wunsch dediziert und vollständig innerhalb einer kontrollierten Hosting-Umgebung. Gemeinsam klären wir, welche Komponenten lokal in Österreich laufen müssen, welche Betriebsleistungen erforderlich sind und wie sich Sicherheit, Leistung und Aufwand sinnvoll ausbalancieren lassen.
