- Lokale KI-Werkzeuge wie Ollama senden im reinen Lokalbetrieb keine Prompt-Inhalte nach draußen – sobald aber Cloud-Zusatzfunktionen dazukommen, ändert sich das.
- „Lokal“ heißt nicht automatisch „DSGVO-konform“: Ein Auftragsverarbeitungsvertrag entfällt nur, wenn wirklich kein externer Dienst beteiligt ist.
- Windows Recall zeigt, dass auch rein lokal gespeicherte Daten unsicher sein können, wenn sie ungeschützt auf der Platte liegen.
- Für Sprachassistenten, Kamera-Überwachung und Datei-Suche gibt es inzwischen ausgereifte Homelab-Lösungen, die komplett ohne Cloud auskommen.
Warum „lokal“ allein noch nichts über Datenschutz aussagt
Wer eine KI (künstliche Intelligenz) selbst betreibt, statt sie über ChatGPT, Copilot oder eine App in der Cloud zu nutzen, hat einen handfesten Vorteil: Die eigenen Daten verlassen nicht zwangsläufig das Haus. Das ist der Grund, warum lokale KI im Homelab so beliebt geworden ist. Nur: „Lokal“ ist kein Gütesiegel. Ob ein Programm wirklich nichts sendet, hängt davon ab, was genau darin läuft – und ob nicht doch irgendwo eine Cloud-Funktion mit eingebaut ist, die man aus Versehen aktiviert.
Was lokale KI-Tools wirklich senden
Ollama, ein beliebter Server zum Betreiben von Sprachmodellen (LLM, Large Language Model – ein KI-Modell, das Texte versteht und erzeugt) auf eigener Hardware, steht unter der freizügigen MIT-Lizenz. Laut einem Quellcode-Audit aus 2026 sendet die Software im lokalen Modus keine Telemetrie (also keine automatisch übermittelten Nutzungsdaten), die REST-API läuft lokal auf Port 11434. Wer aber die optionalen Ollama-Cloud-Funktionen mit gehosteten Modellen nutzt, gibt laut Datenschutzerklärung des Anbieters Account- und Nutzungsdaten preis – das gilt ausdrücklich nur bei aktiver Cloud-Nutzung, nicht im reinen Lokalbetrieb.
Bei LM Studio, einer Desktop-Oberfläche für lokale Sprachmodelle, lässt sich das Senden anonymer Nutzungsdaten unter Einstellungen → Datenschutz abschalten. GPT4All fragt Telemetrie beim ersten Start als Opt-in ab (man muss also aktiv zustimmen) und erfasst laut Projektangabe nie Prompt-Inhalte, sondern höchstens Modellname, Antwortlänge und Hardware-Informationen.
| Tool | Telemetrie im Lokalbetrieb | Abschaltbar/Opt-in |
|---|---|---|
| Ollama | Keine (laut Audit 2026) | Entfällt im Lokalmodus |
| Ollama Cloud | Account-/Nutzungsdaten | Nur bei aktiver Cloud-Nutzung |
| LM Studio | Anonyme Nutzungsdaten (Standard) | Ja, per Schalter abschaltbar |
| GPT4All | Opt-in beim ersten Start | Ja, keine Prompt-Inhalte |
Wichtig für die Einordnung: „Lokale KI sendet nie Daten nach draußen“ stimmt so pauschal nicht. Modell-Downloads, automatische Updates und eben optionale Cloud-Zusatzfunktionen übertragen durchaus Daten oder zumindest Metadaten. Wer wirklich nichts nach außen geben will, sollte solche Zusatzfunktionen gezielt abschalten statt sich auf den Begriff „lokal“ zu verlassen.
Die Rechtslage: DSGVO und EU AI Act
Rein rechtlich ändert sich einiges, sobald eine Cloud-KI statt der eigenen Hardware im Spiel ist. Läuft ein KI-Modell wirklich nur auf eigener Hardware, ohne dass ein externer Anbieter Zugriff hat, braucht es keinen Auftragsverarbeitungsvertrag nach der DSGVO (Datenschutz-Grundverordnung – das zentrale EU-Gesetz zum Umgang mit personenbezogenen Daten). Bei Cloud-KI dagegen ist ein Unternehmen in der Regel selbst „Verantwortlicher“ und der KI-Anbieter „Auftragsverarbeiter“ – ein Vertrag nach Artikel 28 DSGVO ist dann Pflicht.
Hinzu kommt ein bislang ungeklärtes Problem aus der sogenannten Schrems-II-Rechtsprechung: Es ist weiterhin unklar, ob US-Anbieter einen Zugriff durch US-Behörden nach dem FISA-Gesetz (Foreign Intelligence Surveillance Act, Abschnitt 702) wirksam ausschließen können. Für Daten, die bei einem US-Cloud-Anbieter landen, bleibt dieses Risiko bestehen.
Der EU AI Act (das neue EU-Gesetz zur Regulierung von Künstlicher Intelligenz) betrifft private Homelab-Nutzer dabei kaum direkt: Er enthält keine spezifischen Pflichten für private Endnutzer. Seine Haupttransparenzpflichten (Artikel 50) und die Durchsetzungsbefugnisse des AI Office gegenüber Anbietern von GPAI (General Purpose AI, also KI-Modellen mit allgemeinem Verwendungszweck) sind erst seit dem 2. August 2026 tatsächlich scharfgestellt, inklusive möglicher Bußgelder. DSGVO und allgemeines Verbraucherrecht gelten davon unabhängig weiter – und sind für Privatpersonen ohnehin die relevantere Grundlage.
Wenn lokal sogar Pflicht ist
In einigen Bereichen ist lokale beziehungsweise unternehmensinterne Verarbeitung nicht nur sinnvoll, sondern vorgeschrieben: bei besonderen Datenkategorien nach Artikel 9 DSGVO (etwa Gesundheitsdaten), bei Berufsgeheimnisträgern nach Paragraf 203 Strafgesetzbuch (etwa Ärzte oder Anwälte) sowie in regulierten Branchen wie der Telematikinfrastruktur im Gesundheitswesen oder bei Finanzaufsicht durch die BaFin. Wer in einem dieser Bereiche arbeitet, kommt an einer lokalen Lösung oft gar nicht vorbei.
Der Gegenbeweis: Windows Recall
Dass „lokal“ nicht automatisch „sicher“ bedeutet, zeigt Microsofts Windows Recall recht deutlich. Die Funktion wurde im Mai 2024 erstmals vorgestellt, wegen Sicherheitsbedenken verschoben und ab April 2025 im Insider-Programm sowie ab Mai 2025 offiziell auf Copilot+-PCs ausgerollt. Recall macht alle fünf Sekunden einen Screenshot des Bildschirms und verarbeitet ihn laut Microsoft rein lokal, ohne Cloud-Übertragung. Sicherheitsforscher berichteten aber noch im Juli und August 2025, dass in diesen lokal gespeicherten Snapshots weiterhin ungeschwärzte Kreditkarten- und Passwortdaten sichtbar waren. Im Januar 2026 gab es zudem Berichte, dass Microsoft seinen KI- und Recall-Vorstoß in Windows 11 nach anhaltendem Nutzerwiderstand zurückfährt. Die Lehre daraus: Lokal gespeicherte Daten sind nur so sicher wie ihr Schutz auf der Platte selbst.
Auch die großen Anbieter drehen an ihren Cloud-Versprechen
Selbst Apples Ansatz zeigt, wie fließend die Grenze zwischen lokal und Cloud sein kann. Private Cloud Compute lässt einfache Aufgaben seit 2024 direkt auf dem Gerät laufen (auf der sogenannten Neural Engine, einem speziellen KI-Chip), komplexere Anfragen dagegen in einer Cloud-Umgebung mit nach Apples Angaben durchgängiger Verschlüsselung, die angeblich selbst für Apple nicht einsehbar ist. Seit Januar 2026 kooperiert Apple mehrjährig mit Google, und laut Ankündigungen zur WWDC 2026 läuft die dritte Generation der Apple Foundation Models teilweise auf NVIDIA-Blackwell-GPUs in der Google Cloud statt nur in Apples eigenen Rechenzentren. Private Cloud Compute verlässt damit erstmals reine Apple-Infrastruktur – Apple sichert weiterhin kryptografische Datenschutzgarantien zu, auch gegenüber Google und NVIDIA als Infrastrukturbetreiber. Unklar ist bislang, in welchem Umfang genau Anfragen künftig über diese fremde Infrastruktur laufen.
Praxis im Homelab: Wo lokale KI heute schon gut funktioniert
Für alle, die selbst etwas aufbauen wollen, gibt es inzwischen erprobte Bausteine, die komplett ohne Cloud auskommen.
Ein Sprachassistent lässt sich mit Home Assistant lokal betreiben: Die passende Hardware, die Home Assistant Voice Preview Edition, ist seit Dezember 2024 für rund 59 US-Dollar erhältlich und hat einen physischen Hardware-Mute-Schalter sowie einen LED-Ring als Statusanzeige. Der Sprachstack dahinter besteht aus Whisper zur Spracherkennung (STT, Speech-to-Text), dem Wyoming-Protokoll zur Kommunikation zwischen den Komponenten, der Assist-Intent-Engine, die Befehle versteht, und Piper zur Sprachausgabe (TTS, Text-to-Speech). Optional lässt sich Ollama als lokales Sprachmodell-Backend einbinden. Piper wurde laut mehreren Sekundärquellen im Oktober 2025 als eigenständiges GitHub-Repository archiviert, funktioniert aber weiterhin als Wyoming-Add-on in Home Assistant. Als schnellere Alternative zu Whisper hat Home Assistant zudem „Speech-to-Phrase“ eingeführt, mit rund 150 Millisekunden Latenz gegenüber 2 bis 4 Sekunden bei Whisper small-int8 auf einem Raspberry Pi 5.
Für die Kameraüberwachung gibt es Frigate, ein selbstgehostetes NVR-System (Network Video Recorder, also ein Netzwerk-Videorekorder), das Objekt- und Personenerkennung komplett auf eigener Hardware durchführt, ohne Cloud-Zwang, und sich in Home Assistant integrieren lässt. Für ordentliche Erkennungsgeschwindigkeit hilft dedizierte Beschleuniger-Hardware: Ein Google Coral USB Accelerator für rund 60 US-Dollar reicht für etwa vier IP-Kameras, ein Raspberry Pi AI Kit mit Hailo-8L-Chip (13 TOPS, also Billionen Rechenoperationen pro Sekunde) schafft vier bis fünf Streams gleichzeitig.
Yahboom Jetson Orin Nano Super 8GB Development Without SSD Kit, 67 Tops
Wer Objekterkennung mit Frigate oder andere Edge-KI-Aufgaben spürbar beschleunigen will, ohne Bilder in eine Cloud zu schicken, findet in diesem Jetson-Orin-Nano-Super-Kit eine leistungsfähige Grundlage dafür.
Für noch mehr Rechenleistung gibt es die NVIDIA Jetson Orin Nano Super (249 US-Dollar, 67 TOPS) als verbreitete Edge-AI-Plattform (Edge-AI = KI-Verarbeitung direkt am Gerät statt im Rechenzentrum) im Homelab-Umfeld. Am 25. August 2026 kündigte NVIDIA mit dem Jetson Orin Nano 2 einen Nachfolger an: doppelte Inferenzleistung gegenüber dem Super-Modell bei 40 Prozent weniger Stromverbrauch für die gleiche Leistung, 78 TOPS und 8 GB Arbeitsspeicher. Ein Preis stand zum Zeitpunkt der Ankündigung noch nicht fest.
Auch NAS-Systeme (Network Attached Storage, ein Speicher, der am Netzwerk hängt) ziehen nach: QNAP zeigte auf der Computex 2026 ein 8-Bay-NAS mit Intel-CPU und bis zu 180 TOPS samt Qsirch-KI-Modus, der Dateien, Bilder, Videos und Audio per natürlicher Sprache lokal durchsuchbar macht – ohne VLM (Vision-Language-Model, ein KI-Modell, das Bilder und Text gemeinsam versteht) in der Cloud. Synology hat KI-Fotoverwaltung und Anomalieerkennung seit DSM 8 fest in Synology Photos integriert, ebenfalls mit Fokus auf lokale Verarbeitung.
Wer lieber am PC arbeitet: Ein Mac Mini M4 Pro mit 24 GB Arbeitsspeicher (rund 1.399 US-Dollar) verarbeitet Sprachmodelle von 8 bis 22 Milliarden Parametern mit 20 bis 30 Tokens pro Sekunde bei nur 30 bis 40 Watt Verbrauch. Ein Mac Studio mit „Unified Memory“ (gemeinsam genutzter Arbeitsspeicher für Prozessor und Grafikchip) von bis zu 128 oder 256 GB kann sogar 70-Milliarden-Parameter-Modelle lokal vorhalten – bei laut Vergleichsrechnung deutlich niedrigerem Stromverbrauch als ein vergleichbarer GPU-Tower. Als Weboberfläche für solche Modelle hat sich Open WebUI etabliert, eine Docker-basierte Oberfläche für Ollama und OpenAI-kompatible Backends mit über 124.000 Sternen auf GitHub, Mehrbenutzer-Betrieb und RAG-Funktionen (Retrieval Augmented Generation, also KI-Antworten, die eigene Dokumente einbeziehen).
Eine europäische Alternative: Mistral
Wer keine eigene Hardware betreiben will, aber trotzdem Wert auf EU-Datenschutz legt, findet bei Mistral aus Paris eine Alternative: Le Chat Pro hostet Daten in Paris, DSGVO-konform und ohne Zugriff nach dem US CLOUD Act, für etwa 14,99 Euro pro Nutzer und Monat (Stand April 2026). Am 17. März 2026 kündigte Mistral auf der Nvidia-Konferenz GTC zudem „Forge“ an, mit dem sich KI-Training künftig direkt im eigenen Rechenzentrum von Kunden durchführen lässt. Wichtig zur Einordnung von Begriffen wie „Open Source“ bei Modellen wie Llama: Meta bezeichnet Llama im eigenen Marketing als „open source“, die offizielle Dokumentation nutzt dagegen den Begriff „open weight“. Die Community-Lizenz verlangt ab 700 Millionen monatlich aktiven Nutzern eine gesonderte Erlaubnis, die Meta verweigern kann – rechtlich ist das keine Open-Source-Lizenz nach der Open Source Definition. Nur unrestriktive Lizenzen wie Apache 2.0, etwa bei Mistral, DeepSeek oder Qwen, erlauben uneingeschränkte kommerzielle Nutzung.
Fazit
Lokale KI ist ein echter Gewinn für den Datenschutz im Homelab – aber kein Freifahrtschein. Wer wirklich nachvollziehen will, was auf dem eigenen Gerät bleibt, sollte drei Dinge prüfen: ob eine Software Cloud-Zusatzfunktionen mitbringt, die man aus Versehen aktiviert hat, ob lokal gespeicherte Daten selbst ausreichend geschützt sind, und ob im eigenen Fall überhaupt ein externer Dienstleister im Spiel ist – denn erst dann greift die Pflicht zum Auftragsverarbeitungsvertrag nach der DSGVO.