Selbst gehostete KI ohne Cloud
„Selbst gehostete KI ohne Cloud” sind zwei verschiedene Versprechen zusammengeklebt. Eines ist strikt — das Modell selbst läuft auf deiner Maschine, nichts verlässt die Box. Das andere ist lockerer — der Assistent lebt auf deinem Server, aber Pro-Turn-Modellanfragen gehen weiterhin an einen Frontier-Anbieter. Beide sind ehrlich. Beide halten dich aus dem Datensee eines Anbieters heraus. Aber sie kosten unterschiedlich viel, fühlen sich im Alltag sehr unterschiedlich an, und nur eines davon ist das, was die meisten Menschen wirklich wollen wenn sie den Begriff eintippen.
Alle paar Monate tippt eine neue Welle von Menschen „selbst gehostete KI ohne Cloud” in eine Suchleiste. Die eine Hälfte möchte eine KI, die sie im Flugzeug ohne WLAN betreiben können. Die andere Hälfte möchte einen Assistenten, der jahrelang in ihrem Leben lebt ohne dass ihr Gesprächsverlauf im Konto von jemand anderem sitzt. Derselbe Begriff, zwei Ziele, zwei verschiedene Antworten. Dieser Artikel trennt sie klar, damit du nicht das falsche baust.
Was „ohne Cloud” im Jahr 2026 ehrlich bedeuten kann
Es gibt genau zwei kohärente Formen, die in den Begriff passen, und einen Hochstapler.
Form 1 — Vollständig lokal, Gewichte und alles. Ein Open-Weight-Modell (Llama, Mistral, Qwen, Gemma, lokale DeepSeek-Varianten) läuft über Ollama, llama.cpp, LM Studio, vLLM oder ähnlichem auf einer Maschine, die du besitzt. Der Agent, der es umhüllt — Gedächtnis, Orchestrierung, Chat-UI — läuft ebenfalls lokal. Null Pakete verlassen die Box für Inferenz. Das ist das strikte „KI ohne Cloud”. Es ist real, funktioniert heute, und hat einen Vorbehalt: Qualität.
Form 2 — Selbst gehosteter Agent, Cloud-Modell. Das Gedächtnis, der Verlauf, die Persönlichkeit und die Orchestrierung laufen auf deinem Server. Das Modell selbst wird über eine API aufgerufen — Claude, GPT, DeepSeek, Gemini. Pro-Turn-Text verlässt die Box; das wachsende Archiv all dessen, was du je zu deinem Assistenten gesagt hast, tut es nicht. Das ist lockerer, aber es ist das, was „KI ohne Cloud” in der Praxis für Menschen bedeutet, die auch das Frontier-Modell-Gehirn wollen.
Hochstapler — „private” Cloud-Produkte. „Enterprise”- oder „private” Stufen von ChatGPT, Claude und Gemini leben auf der Infrastruktur des Anbieters mit einem Datenschutz-Zusatz. Das ist eine rechtliche Form, keine technische. Am Datenpfad ändert sich nichts. Wenn deine Definition von „ohne Cloud” architektonisch ist, ist das nicht sie.
Was du wirklich behältst, und was du aufgibst
Beide ehrlichen Formen geben dir dieselben Gewinne: Das Archiv deiner Gespräche lebt auf Hardware, die du kontrollierst, niemand kann dein Gedächtnis still zurücksetzen oder dein Konto schließen, und du zahlst keine Miete für eine Kopie von dir selbst. Die Souveränität, die Menschen wirklich anstreben wenn sie „keine Cloud” sagen, dreht sich zu 95 % um dieses Archiv, nicht um Modellgewichte.
Die Abwägung teilt sich beim Modell:
- Strikt ohne Cloud (Form 1) — nichts verlässt je die Maschine. Kosten sind meist einmalig (Hardware). Qualität liegt bei komplexen Aufgaben, mehrsprachiger Arbeit, langem Kontext und Tool-Nutzung spürbar hinter Claude/GPT/Gemini. Gut zum Entwerfen, für Notizassistenz, Code-Snippets, einzeilige Fragen. Schmerzhaft für einen echten „Kollege-im-Messenger”-Workflow.
- Selbst gehosteter Agent + Cloud-Modell (Form 2) — der Text des aktuellen Schritts (mit gerade genug Kontext) geht an den Modellanbieter. Dein Archiv nicht. Kosten sind ein 5–15 $/Monat VPS plus Modell-Nutzung. Qualität ist Frontier — dasselbe Gehirn wie ChatGPT, nur mit deinen Daten bekleidet.
Was du wirklich willst
Schneide das Branding mit drei Fragen durch:
- Musst du offline / auf einer air-gapped Maschine arbeiten? Dann muss es Form 1 sein. Kein Kompromiss.
- Ist dein Problem „der Anbieter besitzt meinen Verlauf”? Dann löst Form 2 das bereits — das Archiv ist das, was Menschen meinen wenn sie „meine Daten” sagen.
- Brauchst du Frontier-Reasoning über Sprachen, lange Dokumente oder agentische Tool-Nutzung? Dann liefert heute nur Form 2; lokale Modelle holen noch auf.
Die meisten Menschen, die „KI ohne Cloud” tippen, beantworten Frage 2, nicht Frage 1. Sie ordnen Form 1 zu weil sie prinzipieller klingt, führen dann ein lokales 8B-Modell aus, stellen fest, dass es kein echtes Gespräch führen kann, und schlussfolgern „selbst gehostete KI ist nicht bereit”. Was wirklich passiert ist: sie haben die falsche Form für ihr Ziel gewählt.
Hardware, ehrlich
Für Form 1. Eine Consumer-GPU mit 24 GB+ VRAM (RTX 3090/4090, oder eine gebrauchte A5000/A6000) oder ein Mac mit Apple Silicon und 32–64 GB Unified Memory. Nur-CPU ist für 3–7B-Modelle möglich, aber die Tokens-pro-Sekunde fühlen sich an wie Tippen unter Wasser. Budget: 800–3000 $ einmalig, 0 $/Monat danach.
Für Form 2. Ein 5–15 $/Monat VPS mit 2–4 GB RAM und ohne GPU. Modellkosten separat — Claude Max bei ~100 $/Monat, oder OpenAI + API-Aufladungen 20–50 $/Monat je nach Volumen. Gesamt: ~25–115 $/Monat, kein Kapitalaufwand.
Beachte, dass Form 2 günstiger im Voraus und Form 1 günstiger über Jahre ist. Beide sind radikal günstiger als die Kosten dafür, dass deine Daten irgendwann gegen dich verwendet werden — was der eigentliche Grund ist, warum du nach cloudloser KI gesucht hast.
Der Alltag
Form 1 im Alltag. Sofortige Antworten (kein Netzwerk), keine Ratenlimits, keine Pro-Nachricht-Kosten. Aber Antworten auf nicht-triviale Fragen landen irgendwo zwischen „solider Junior-Kollege” und „selbstsicher falsch.” Lange Dokumente belasten das Kontextfenster. Alles, was Tool-Nutzung oder zuverlässiges JSON erfordert, ist ein Kampf. Sprach-/Bild-/sprachübergreifende Arbeit ist inkonsistent. Es ist ein echter Assistent, kein großartiger.
Form 2 im Alltag. Ein Frontier-Qualitäts-Gehirn spricht durch einen Assistenten, der sich an dich erinnert, Nachrichten initiiert, deine Dateien aufbewahrt und das Archiv nie herausgibt. Latenz ist ein Netzwerk-Round-Trip. Kosten fallen pro Turn an. Du vertraust darauf, dass der Modellanbieter Pro-Turn-Text langfristig nicht protokolliert — dieses Vertrauen wird durch seine Richtlinie definiert, nicht durch die Architektur. Für die meisten Nutzer lohnt sich der Kompromiss; für Paranoide nicht.
Keines ist falsch. Keines ist universell richtig. Wähle danach, welche Ecke du tatsächlich bereit bist zu verlieren.
Der Hybrid, den die Leute bauen sobald sie beide gefühlt haben
Fast jeder, der beide einen Monat lang betreibt, landet auf derselben Form: ein selbst gehosteter Assistent, der standardmäßig ein Cloud-Modell für Qualität nutzt, und bei einer spezifischen Klasse von Schritten auf ein lokales Modell zurückfällt — sensible Dateien, Offline-Modus oder Arbeit mit Material, das die Box rechtlich nicht verlassen darf. Der Agent entscheidet pro Schritt, wohin der Aufruf geht. Das ist der ehrliche Gipfel von „KI ohne Cloud” — cloudlos wenn es darauf ankommt, Cloud-Qualität wenn nicht.
Wo Avelina passt
Avelina AI ist standardmäßig Form 2 — ein selbst gehosteter Assistent, der dein Archiv auf deinem VPS hält, Nachrichten initiiert, Spezialist-Sub-Agenten hostet und welches Modell auch immer du abonnierst aufruft (Claude, OpenAI, oder eine OpenRouter-Route zu DeepSeek und anderen). Wenn Form 1 deinem Fall entspricht — offline, air-gapped oder eine harte „keine Pakete verlassen die Maschine”-Richtlinie — läuft dieselbe Architektur gegen einen lokalen Ollama-Endpunkt; du tauschst die Modell-URL aus, der Gedächtnis- und Persönlichkeits-Stack funktioniert weiter. Ein Assistent, zwei Modellpfade, ein Archiv, das deine Box nie verlässt.
Für den vollständigen Kompromiss zwischen Cloud und selbst gehostet ist der Schwesterartikel selbst gehostete KI vs. Cloud-KI. Wenn du abwägst ob es sich überhaupt lohnt, ist lohnt sich selbst gehostete KI die ehrliche Version. Und wenn du die Form, die du willst, bereits kennst, führt der Build-Leitfaden sie von Anfang bis Ende durch.
FAQ
Kann ich KI wirklich ohne jegliche Cloud betreiben?
Ja — kleine bis mittlere Open-Weight-Modelle (Llama, Mistral, Qwen, Gemma) laufen heute lokal. Qualität liegt hinter Frontier-Cloud-Modellen, daher ist 100 % cloudlos real aber fühlt sich normalerweise wie ein Schritt nach unten an.
Was ist der Unterschied zwischen selbst gehosteter KI und cloudfreier KI?
Selbst gehostet umfasst beide Formen: lokale Gewichte (strikt cloudlos) und selbst gehosteter Agent, der ein Cloud-Modell aufruft (locker cloudlos). Cloud-frei bedeutet speziell lokale Gewichte.
Brauche ich eine GPU?
Für echte cloudlose Inferenz ja (24 GB+ VRAM oder ein Apple Silicon Mac mit 32–64 GB Unified Memory). Für die selbst gehosteten Agent + Cloud-Modell-Form reicht ein 5–15 $/Monat VPS ohne GPU.
Ist ein selbst gehosteter Assistent, der ein Cloud-Modell verwendet, noch „ohne Cloud”?
Teilweise. Dein Archiv ist cloudlos. Pro-Turn-Text ist es nicht. Für die meisten Menschen ist der Kompromiss — lokale Daten, Cloud-Gehirn — der ehrliche Sweetspot.
Lokales Modell oder Cloud-Modell mit selbst gehostetem Agenten — welches gewinnt beim Datenschutz?
Vollständig lokal ist strenger. Selbst gehosteter Agent + Cloud-Modell übertrifft trotzdem die direkte Nutzung von ChatGPT / Gemini deutlich, weil dein wachsendes Archiv so oder so auf deiner Maschine bleibt.
Soll dieselbe Architektur deine Kunden statt dich bedienen? Avelina for Business ist dieselbe Form, auf deinem Markenkonto.