![github-actions[bot]](https://avatars.githubusercontent.com/in/15368?v=4){kind=small}
Belege
Antworten, die ihre Quelle nennen.
Jede Antwort kommt mit klickbaren Verweisen auf die Stelle im Originaldokument. Wenn das Modell etwas nicht belegen kann, sagt es das.
Zur Architektur
Lokaler KI-Wissensassistent
Eigene Dokumente befragen — vollständig offline.
LokLM speichert deine Dokumente verschlüsselt auf dem Gerät und beantwortet Fragen über eine Chat-Oberfläche — mit klickbaren Quellenverweisen. Keine Cloud, keine externen KI-APIs.
100% offline Lokale Verschlüsselung Open Source · MIT
Unser Stack
Auf den Schultern der Open-Source-Community gebaut
Warum
Lokale KI ist mühsam. Wir machen sie zugänglich.
Modelle vergleichen, RAG-Pipelines bauen, Inference lokal aufsetzen, Daten verschlüsseln — das ist eine Menge Arbeit, bevor du die erste Frage stellst. LokLM nimmt dir diesen Teil ab.
Der harte Weg
- Modelle finden, evaluieren und quantisieren
- RAG-Pipeline bauen — Chunking, Embeddings, Retrieval, Reranking
- Inference-Stack lokal aufsetzen (llama.cpp, GPU/CPU, Quant-Level)
- Vault verschlüsseln, Schlüssel verwalten, Backups planen
- Aktuelle RAG-Forschung verfolgen und nachziehen
Mit LokLM
Installieren. Dokumente ablegen. Fragen stellen.
Modellauswahl, Pipeline-Tuning und Verschlüsselung haben wir im Hintergrund erledigt. Du brauchst kein ML-Engineer zu sein, um deine eigenen Dokumente mit einer lokalen KI zu befragen.
So funktioniert es
In drei Schritten.
Installieren, Dokumente importieren, Fragen stellen — mit Quellen, die du anklicken kannst.
- Schritt 1
Dokumente in den Vault ziehen
PDF, Markdown, Text oder Code per Drag & Drop. LokLM indexiert lokal und verschlüsselt — kein Upload, kein Account.
- Schritt 2
In natürlicher Sprache fragen
Stell eine Frage zu deinen Dokumenten. Das Modell läuft auf deiner Maschine — keine Anfrage geht ins Netz.
- Schritt 3
Quelle prüfen — direkt anklicken
Jede Antwort enthält Quellenverweise. Ein Klick öffnet die Originalstelle im Dokument.
Vault
Verschlüsselt auf deinem Gerät.
Argon2id-Schlüsselableitung, AES-256-GCM und ein eigener Schlüssel pro Arbeitsbereich. Entsperrt über Passwort oder die 18-Wort-Wiederherstellungsphrase — alles bleibt lokal.
Architektur ansehen
Offline
Kein Netz, kein Problem.
Das Modell läuft lokal, der Index liegt lokal, die Verschlüsselung passiert lokal. Du kannst LokLM den Netzwerkzugriff entziehen — es ändert nichts.
Diagramm ansehen
Lernwerkzeuge
Aus deinen Unterlagen lernen.
Generiere Quizze aus deinen Dokumenten, fasse lange Texte zusammen und lass dir beim Schreiben helfen — alles auf Grundlage deiner eigenen Dateien, alles lokal.
Funktionen ansehen
Übersetzung
400+ Sprachen, ohne Cloud.
Übersetze markierten Text oder ganze Dokumente mit einem lokalen Übersetzungsmodell (MADLAD-400). Nichts verlässt dein Gerät — auch nicht der zu übersetzende Text.
Funktionen ansehen
Mehr Funktionen
-
Vollständig offline
Modelle laufen lokal. Kein Account, kein Telemetrie-Ping, keine API-Aufrufe an externe Anbieter.
-
Klickbare Quellenverweise
Jede Antwort enthält Belege aus deinen eigenen Dokumenten — direkt anklickbar bis zur Originalstelle.
-
PDF, Word, Code & mehr
Importiere PDF (auch gescannt, per OCR), Word (DOCX), Markdown, Text, HTML und Quellcode — organisiert in Arbeitsbereichen.
-
Verschlüsselter Vault
Argon2id-Schlüsselableitung und AES-256-GCM. Dein Passwort — oder die 18-Wort-Wiederherstellungsphrase — entsperrt einen Hauptschlüssel; jeder Arbeitsbereich wird unter einem eigenen Schlüssel verschlüsselt.
-
Daten bleiben bei dir
Deine Dokumente werden verschlüsselt auf deinem Gerät gespeichert (im LokLM-Datenordner) — nichts wandert in die Cloud.
-
Quelltext einsehbar
MIT-Lizenz. Audit, fork, beitragen — der gesamte Code ist auf GitHub einsehbar.
-
Übersetzung (400+ Sprachen)
Übersetze Dokumente und Textstellen lokal mit einem dedizierten Übersetzungsmodell (MADLAD-400). Kein Cloud-Übersetzer, keine API.
-
Audio-Transkription
Transkribiere Audio lokal mit Whisper, inklusive Sprechertrennung — speichere das Transkript in einen Arbeitsbereich und befrage es wie jedes Dokument.
-
Codebasen durchsuchen
Indiziere ganze Repositories mit code-spezifischen Embeddings; Antworten verweisen auf Datei und Zeile (z. B. auth.ts:88), inklusive Ordner-Sync.
-
Lernen, zusammenfassen, schreiben
Erzeuge Quizze und Zusammenfassungen aus deinen Dokumenten und nutze den Schreibassistenten — alles lokal aus deinen eigenen Quellen.
Sicherheit
Wo deine Daten leben — und wo nicht.
Eine Übersicht des Datenflusses. Die gestrichelte Linie ist das Netz — LokLM überquert sie nie.
- Argon2id Passwort-Hashing
- AES-256-GCM-Verschlüsselung
- 18-Wort-Wiederherstellungsphrase
- Keine Telemetrie, kein Account
Wofür
Wo LokLM gut ist.
Vier Beispiele aus der Praxis. Honest framing: das hier ist die Stärke — nicht offene Wissensfragen ohne Kontext.
- Anwalt
“Wo steht die Cap-Rate-Klausel im Mietvertrag?”
→ Belegt in §4.2 von Mietvertrag.pdf
- Forscher
“Fasse die Methodik dieser drei Paper zusammen.”
→ Mit Seitenangaben je Paper
- Berater
“Was hat der Kunde im Q3-Review zugesagt?”
→ Zitiert aus review.docx:12
- Entwickler
“Wie ist die Auth-Middleware in diesem Repo konfiguriert?”
→ Belegt in src/main/auth.ts:88
Download
Download
Aktuelle Version. Verifiziere die SHA-256-Prüfsumme vor der Installation.
Version
v0.6.6
Veröffentlicht
2026-07-01
Größe
369 MB
windows
369 MB
macos
3.0 MB
linux
330 MB
info Bei der Installation lädst du eine Modell-Edition — je nach Wahl ca. 4–8 GB (Lite / Standard / Pro). Stabile Verbindung empfohlen.
SHA-256 — LokLM-x64.exe
c64bed5779b7b2fad095fb4ccced1d2dd09075e2c86d09b6e41c14ef96b6bb27 Systemanforderungen
Windows 10/11, macOS oder Linux (64-bit)
RAM
12 GB RAM (16 GB für Pro)
Disk
~10 GB freier Speicher
FAQ
Häufige Fragen.
Ist LokLM wirklich offline?
Ja. Modelle und Index laufen lokal. Die einzige Netzwerkaktivität ist der einmalige Modell-Download bei der Installation und Updates, wenn du sie startest.
Wie groß sind die Modelle und woher kommen sie?
Bei der Installation wählst du eine Edition: Lite (Qwen3.5-4B, ~3,6 GB, für integrierte Grafik / 12 GB RAM), Standard (Qwen3.5-4B, ~4 GB, empfohlen) oder Pro (Qwen3.5-9B, ~7 GB). Dazu kommen das Embedding-Modell (BGE-M3) und der Reranker (BGE Reranker v2-M3) — zusammen ~0,9 GB, geladen von Hugging Face. Danach läuft alles lokal.
Kann ich ein eigenes Modell mitbringen (GGUF)?
Ja. LokLM führt GGUF-Modelle lokal über llama.cpp aus — eigene GGUF-Dateien lassen sich in den Modellordner legen und in den Einstellungen auswählen. Optional kann LokLM stattdessen einen lokalen Ollama-Server nutzen.
Braucht es eine GPU?
Nein, alles läuft auch auf der CPU. Mit einer NVIDIA-GPU geht es spürbar schneller — der Installer lädt dafür optional die CUDA-Unterstützung nach (~680 MB), die Sprachmodell und Übersetzung beschleunigt.
Wo werden meine Dokumente gespeichert?
Verschlüsselt auf deinem Gerät, im LokLM-Datenordner deines Benutzerkontos — pro Arbeitsbereich ein eigener verschlüsselter Speicher. Verschlüsselt mit AES-256-GCM, der Schlüssel wird via Argon2id aus deinem Passwort abgeleitet.
Ist LokLM so klug wie ChatGPT oder Claude?
Nein. Cloud-Modelle laufen auf um Größenordnungen mehr Hardware. LokLM ist für etwas anderes optimiert: Privatsphäre, Quellenverweise auf deine eigenen Dokumente, und vollständig offline. Für offene Wissensfragen ohne Kontext sind Cloud-Modelle weiter besser — LokLM ist stark, wenn die Antwort in deinen eigenen Unterlagen steht.
Wie sichere ich meine Daten?
Sichere den LokLM-Datenordner — er enthält den verschlüsselten Schlüssel-Vault und deine Arbeitsbereiche. Da alles verschlüsselt ist, kannst du den Ordner auch in einen Cloud-Speicher kopieren.
Was passiert, wenn ich das Passwort verliere?
Du kannst den Vault mit deiner 18-Wort-Wiederherstellungsphrase wiederherstellen. Ohne beides ist der Vault nicht zu öffnen — das ist Absicht.