Getting Started (5): Picking a Local Model That Actually Fits Your Wiki
Qwen3.5, Qwen3.6, Gemma 4, oMLX — which model runs your wiki well, on what hardware, with what tradeoffs. A practical guide to going fully offline without sacrificing usability.
Deine Notizen. Ein lebendiges Wiki. Schreibe in Obsidian — Notizen, PDFs, Web-Clips. Jeder Input verbindet sich mit einem Netzwerk, das ständig wächst.
Verlieren oder wachsen?
Artikel speichern. Ort vergessen. Später suchen. Nichts gefunden.
Wähle eine Notiz aus deinem Vault. Ideen gefunden, Seiten erstellt, Zusammenfassung bereit. In Sekunden.
Zwei Notizen manuell verlinken. Eine ändert sich. Die andere bleibt alt. Der Link stirbt.
Links bleiben lebendig. Wenn neue Informationen alte widersprechen, bleiben alle verbundenen Seiten aktuell.
Ein Jahr Notizen. Nur Dateien. Jedes Projekt beginnt von vorn. Gleiches Lesen. Gleiche Schlussfolgerungen.
Ein Jahr baut ein Wiki. Jede neue Frage schöpft aus allem, was du gesammelt hast. Dein Wissen wächst.
Eine Notiz. Eine Welt voller Verbindungen.
Keine Funktionen. Eine neue Beziehung zu allem, was du liest.
Wähle eine Notiz aus deinem Vault — Cmd+P → Ingest. KI liest, extrahiert, baut. Keine Ordner. Keine Tags. Keine Arbeit.
Frag wie einen Freund. Beobachte das Denken, dann antwortet es mit Quellen, die du öffnen und prüfen kannst.
Cmd+P -> Multi-File Ingest öffnet eine Live-Warteschlange mit Ordnerbaum-Auswahl. Wähle 5 oder 50 Notizen auf einmal — kein Zwischenordner nötig.
Neue Dateien? Automatisch erfasst. Widersprüche? Gefunden. Gesundheit? Geprüft. Nach deinen Regeln.
Tiefergehende Einblicke in Architektur, Workflows und Modellauswahl.
Qwen3.5, Qwen3.6, Gemma 4, oMLX — which model runs your wiki well, on what hardware, with what tradeoffs. A practical guide to going fully offline without sacrificing usability.
Pick a PDF from anywhere in your vault. The plugin reads it through your LLM provider, transcribes it to Markdown verbatim, and feeds the result into the standard wiki extraction pipeline.
Four phases that turn a natural-language question into a wiki-grounded answer. Why this pipeline is fundamentally different from vanilla RAG, where it borrows, and where it diverges.
Obsidian ist alles, was du brauchst.
In Obsidian: Einstellungen → Community-Plugins → Durchsuchen, Karpathy LLM Wiki suchen, auf Installieren dann Aktivieren klicken.
Plugin-Seite öffnenEinstellungen → Karpathy LLM Wiki. Wähle dein LLM, gib den Schlüssel ein, teste, speichere.
Cmd+P (oder Ctrl+P). Ingest eingeben um eine einzelne Quelle hinzuzufügen, Multi-File Ingest um viele auf einmal auszuwählen. Query eingeben um zu fragen.
Was du wissen solltest, bevor du startest.
Wenn du manuell [[Links]] setzt, erfasst du Verbindungen, die du bereits kennst. Das Plugin arbeitet anders: Es liest jede Notiz in deinem Vault, extrahiert die darin enthaltenen Personen, Konzepte und Theorien und generiert automatisch Wiki-Seiten, die dir bisher unbemerkte Verbindungen aufzeigen — Zusammenhänge zwischen Papieren, die du Monate auseinander gelesen hast, Themen über Ordner hinweg, Einsichten, die in beiläufigen Erwähnungen vergraben waren. Deine manuellen Links bleiben intakt; das Plugin fügt eine KI-gestützte Ebene hinzu, die das findet, wovon du nicht wusstest, dass es da ist.
Dein Vault bleibt genau so, wie du ihn geschrieben hast. Das Plugin erstellt nur neue Wiki-Seiten in eigenen Ordnern — entities/, concepts/ und ähnliche — unter deinem wiki/-Ordner. Wenn eine automatisch generierte Seite falsch ist, lösche sie einfach und führe den Ingest erneut aus; sie wird von Grund auf neu aufgebaut. Sobald du eine Seite als überprüft markierst, schreibt die KI sie nie um, sondern ergänzt nur. Jede Konversationsantwort verlinkt auch zurück zu den Quellnotizen, aus denen sie stammt, sodass du jede Behauptung mit einem Klick überprüfen kannst.
Obsidian v1.11.0+ (Desktop: Windows, macOS, Linux) und ein LLM-API-Key. Unterstützt: DeepSeek, Gemini, Claude, GPT, Kimi, GLM, MiniMax, OpenRouter oder jeder eigene Endpunkt. Für lokale Modelle via Ollama oder LM Studio ist kein API-Key nötig.
Langkontext-Modelle empfohlen — sie verarbeiten dein gesamtes Wiki in einem Durchlauf. Ein Ingest kostet $0,05–$0,50. Kosten gehen an den LLM-Anbieter; das Plugin ist kostenlos und Open Source.
Ja — genau dafür ist das Plugin entwickelt. Mit Ollama oder LM Studio bleiben alle Daten auf deinem Rechner: Notizen, extrahierte Entitäten, generierte Wiki-Seiten — nie gesendet, nie protokolliert, nie von einem externen Server berührt. Das Plugin hat keine Telemetrie, kein Backend, keinen Speicher und keine Datenerfassung jeglicher Art; es baut keine eigenen Verbindungen auf, nicht einmal zur Update-Prüfung. Nutzt du einen Cloud-Anbieter? Daten werden nur während des von dir ausgelösten Ingest oder Query übertragen, nie extern zwischengespeichert, nie geteilt. Diese Null-Exfiltrations-Architektur bedeutet, dass du es bedenkenlos mit Forschungsdaten, Kundenunterlagen, persönlichen Tagebüchern oder vertraulichen Materialien aller Art nutzen kannst. Cloud-Modelle bieten größere Kontextfenster und schnelleren Durchsatz für Stapelverarbeitung; lokale Modelle geben dir absolute Datenhoheit für den täglichen Gebrauch.
Einen Fehler gefunden? Erstelle ein Issue auf GitHub. Eine Frage oder Idee? Starte eine Discussion auf GitHub. Du findest das Plugin auch auf der Obsidian Community Plugin-Seite und kannst eine Bewertung hinterlassen.
Ja — seit v1.25.0 sind PDFs ein erstklassiges Eingabeformat. Wähle ein PDF aus deinem Vault (Cmd+P → Ingest single source). Das Plugin liest es über die native Datei-Eingabe deines LLM-Anbieters ein (Anthropic Claude, OpenAI GPT-4o und Bedrock-Varianten verarbeiten PDFs nativ), wandelt es per OCR-ähnlichem Wort-für-Wort-Transcriber in Markdown um — mit Markern gegen Halluzinationen bei Abbildungen und Formeln — und führt das Ergebnis durch dieselbe Pipeline für Entitäten, Konzepte und Verknüpfungen wie Markdown-Quellen. Das konvertierte Markdown wird per Content-Hash in .obsidian/plugins/karpathywiki/pdf-cache/ gecached, sodass ein erneutes Ingesten sofort geht. Standardmäßig wird dein Vault nicht verändert; aktiviere Write PDF Markdown to Vault in den Einstellungen, um zusätzlich eine <basename>.pdf.md-Begleitdatei neben dem Quell-PDF zu schreiben.
Ja — seit v1.24.0 unterstützt das Plugin modellauswahl pro Aufgabe. In Einstellungen → Wiki → Model Scope wechselst du von Unified (ein Modell für alles) auf Per-Task und wählst dann unabhängig ein Modell für Ingest, Lint und Query. Ein häufiges Muster: ein günstiges, schnelles Modell für Ingest (DeepSeek, MiniMax), ein starkes Modell für Lint (Claude, GPT-4o) und ein Lang-Kontext-Modell für Query. Test Connection prüft jedes konfigurierte Modell nacheinander mit Fail-Fast — bis nicht jedes Per-Task-Modell besteht, gilt die Verbindung als nicht gesund.
Ja — wenn du PDF-Ingest mit einem lokalen Modell über Ollama oder LM Studio kombinierst, bleibt jede PDF End-to-End auf deinem Rechner. Das empfohlene Setup auf Apple Silicon ist oMLX + das Markitdown-Backend + Baidus Open-Source-Modell Unlimited-OCR (3B gesamt / 0,5B aktiv), angebunden über einen Custom OpenAI-Compatible-Anbieter mit aktivierter Option Force PDF Support. PDFs verlassen deinen Vault nie; die Konvertierung läuft lokal; das resultierende Markdown durchläuft dieselbe Entitäten-Extraktions-Pipeline — ebenfalls auf dem Gerät.
Keine Insel. Jedes Tool, das du liebst, jetzt besser.
Links sehen
Wiki gibt deinem Graphen Bedeutung. Hub-Seiten, Cluster, Waisen. Erkundung, nicht Dekoration.
Artikel speichern
Speichere den Clip irgendwo in deinem Vault. Cmd+P → Ingest from folder. KI extrahiert, verlinkt, aktualisiert. Ein Clip wird zu 10+ Wiki-Seiten.
Daten abfragen
KI fügt Struktur hinzu. Tags, Daten, Kategorien. Leere Tabellen werden zu lebendigen Dashboards.
Versionen verfolgen
Sieh dein Wissen wachsen. Jeder Commit erzählt die Geschichte, wie du gewachsen bist.
Folien erstellen
Frag: „Fasse meine Forschung für einen 10-Minuten-Vortrag zusammen." Wiki baut Folien aus deinem Wissen.
Visueller Canvas
KI baut Konzeptkarten, Zeitleisten, Entscheidungsbaum aus deinem Wissen. Kein leeres Blatt mehr.
Zwölf Anbieter, Cloud oder lokal. Wechsel jederzeit — an nichts gebunden.
Zwölf Anbieter, ein Klick im Dropdown. Passt einer nicht mehr, wechselst du — dein Wiki merkt es nicht.
Kein Backend. Kein Tracking. Nichts gespeichert. Deine Notizen gehen nur an die KI, die du wählst — oder bleiben mit einem lokalen Modell komplett offline.
Das Plugin ist kostenlos. Ein voller Ingest kostet dich nur $0,05–$0,50 beim LLM-Anbieter — wählst du ein günstiges Modell, fällt es kaum auf.
Cloud oder lokal — nutze, wem du vertraust.
Modelle mit langem Kontext lesen dein Wiki in einem Zug — das vollständige Bild, nicht nur Bruchstücke. Ollama und LM Studio laufen komplett auf deinem Gerät — kein Upload, kein API-Key.