Getting Started (5): Picking a Local Model That Actually Fits Your Wiki
Qwen3.5, Qwen3.6, Gemma 4, oMLX — which model runs your wiki well, on what hardware, with what tradeoffs. A practical guide to going fully offline without sacrificing usability.
당신의 노트가 살아있는 위키가 됩니다. Obsidian에서 작성하세요 — 노트, PDF, 웹 클립까지. 모든 입력이 계속 성장하는 네트워크로 연결됩니다.
잃을까요, 키울까요?
글을 저장하고 위치를 잊음. 나중에 검색해도 아무것도.
보관함에서 노트를 고르기만 하면 끝. 아이디어를 찾고, 페이지를 만들고, 요약 준비 완료. 몇 초 만에.
두 노트를 수동으로 연결. 하나가 바뀌면 다른 하나는 옛날 정보로 남음. 연결이 죽음.
연결이 살아있습니다. 새 정보가 이전 정보와 모순되면, 모든 관련 페이지가 최신 상태로 유지됩니다.
1년치 노트. 그냥 파일들. 모든 프로젝트가 처음부터 시작. 같은 독서, 같은 결론.
1년이 위키를 만듭니다. 모든 새로운 질문이 당신이 모은 모든 것을 활용합니다. 지식이 성장합니다.
하나의 노트, 무한한 연결.
기능이 아닙니다. 당신이 읽는 모든 것과의 새로운 관계입니다.
보관함에서 노트를 고르세요 — Cmd+P → Ingest. AI가 읽고, 추출하고, 만듭니다. 폴더도, 태그도, 작업도 없이.
친구에게 묻듯 질문하세요. AI가 생각하는 과정을 지켜본 다음, 출처를 곁들여 신뢰할 답을 줍니다.
Cmd+P → Multi-File Ingest로 라이브 큐와 폴더 트리 선택기를 엽니다. 5개든 50개든 한 번에 선택——임시 폴더 불필요.
새 파일? 자동 수집. 모순? 발견됨. 상태? 확인됨. 당신의 방식대로.
아키텍처, 워크플로우 및 모델 선택에 대한 심층 탐구
Qwen3.5, Qwen3.6, Gemma 4, oMLX — which model runs your wiki well, on what hardware, with what tradeoffs. A practical guide to going fully offline without sacrificing usability.
Pick a PDF from anywhere in your vault. The plugin reads it through your LLM provider, transcribes it to Markdown verbatim, and feeds the result into the standard wiki extraction pipeline.
Four phases that turn a natural-language question into a wiki-grounded answer. Why this pipeline is fundamentally different from vanilla RAG, where it borrows, and where it diverges.
Obsidian만 있으면 됩니다.
설정 → Karpathy LLM Wiki. LLM 선택, 키 입력, 테스트, 저장.
Cmd+P (또는 Ctrl+P). Ingest 입력으로 단일 소스 추가, Multi-File Ingest로 여러 개 한 번에 선택. Query 입력으로 질문.
시작하기 전에 알아둘 것들.
수동으로 [[링크]]를 연결할 때는 이미 알고 있는 연결만 기록할 수 있습니다. 이 플러그인은 다르게 작동합니다: 보관함의 모든 노트를 읽고, 그 안에 담긴 사람, 개념, 이론을 추출한 다음, 여러분이 미처 발견하지 못한 연결을 드러내는 Wiki 페이지를 자동으로 생성합니다——몇 달 간격으로 읽은 논문들 사이의 연결, 폴더를 넘나드는 주제, 지나가는 언급에 묻힌 통찰까지. 수동 링크는 그대로 유지되며, 플러그인이 여러분이 몰랐던 것을 찾아내는 AI 기반 계층을 추가합니다.
보관함은 여러분이 작성한 그대로 유지됩니다. 플러그인은 자체 폴더(entities/, concepts/ 등)에만 새 Wiki 페이지를 생성하며, 이 폴더들은 모두 wiki/ 폴더 아래에 만들어집니다. 자동 생성된 페이지가 잘못되었다면 삭제하고 인제스트를 다시 실행하기만 하면 처음부터 다시 구축됩니다. 페이지를 검토됨으로 표시하면 AI는 다시 쓰지 않고 추가만 합니다. 모든 대화형 답변도 출처가 된 노트로 다시 연결되므로 한 번의 클릭으로 주장을 검증할 수 있습니다.
Obsidian v1.11.0+ (데스크톱: Windows, macOS, Linux)와 LLM 제공업체 API 키 필요. 지원: DeepSeek, Gemini, Claude, GPT, Kimi, GLM, MiniMax, OpenRouter, 모든 사용자 정의 엔드포인트. Ollama·LM Studio 같은 로컬 모델은 API 키 불필요.
긴 컨텍스트 모델 권장 — Wiki 전체를 한 번에 처리. 1회 수집 비용 약 $0.05–$0.50. 모든 비용은 LLM 제공업체에. 플러그인은 무료 오픈 소스.
네 — 그것이 바로 이 플러그인의 설계 핵심입니다. Ollama 또는 LM Studio 로컬 모델을 사용하면 모든 데이터가 사용자 기기에 남습니다: 노트, 추출된 개체, 생성된 Wiki 페이지 — 전송되지 않으며, 기록되지 않으며, 외부 서버에 닿지 않습니다. 이 플러그인은 제로 텔레메트리, 백엔드 불필요, 저장소 없음, 데이터 수집 없음 — 업데이트 확인조차 외부로 나가지 않습니다. 클라우드 제공자를 사용하는 경우에도 데이터는 사용자가 트리거한 특정 인제스트 또는 쿼리 동안에만 전송되며, 외부에 캐시되거나 공유되지 않습니다. 이러한 제로 유출 아키텍처 덕분에 연구 데이터, 고객 기록, 개인 일기 등 기밀 자료도 안심하고 사용할 수 있습니다. 클라우드 모델은 대량 배치 처리(더 큰 컨텍스트, 더 빠른 처리량)에 적합하고, 로컬 모델은 일상적인 사용에 절대적인 데이터 주권을 제공합니다.
버그를 발견하셨나요? GitHub에서 Issue 열기. 질문이나 아이디어가 있으신가요? GitHub에서 Discussion 시작하기. Obsidian Community Plugin 페이지에서 플러그인을 찾아 리뷰를 남길 수도 있습니다.
네 — v1.25.0부터 PDF는 정식 입력 형식이 되었습니다. 보관함 어디에서나 PDF를 고르세요 (Cmd+P → Ingest single source). 플러그인이 LLM 제공업체의 네이티브 파일 입력으로 읽고 (Anthropic Claude, OpenAI GPT-4o, Bedrock 계열은 PDF를 네이티브 처리), OCR 방식의 축어 변환기로 그림과 수식에 환각 방지 마커를 붙여 마크다운으로 변환한 뒤, 일반적인 Markdown 인제스트 파이프라인으로 다시 보냅니다. 변환된 마크다운은 .obsidian/plugins/karpathywiki/pdf-cache/ 안에 콘텐츠 해시로 캐시되어 재수집은 즉시 끝납니다. 기본적으로 보관함은 변경되지 않습니다. 설정에서 PDF 마크다운을 보관함에 쓰기를 켜면 소스 PDF 옆에 <basename>.pdf.md 사이드카 파일도 함께 저장됩니다.
네 — v1.24.0부터 작업별 모델 선택을 지원합니다. 설정 → Wiki → 모델 범위에서 통합(모든 작업에 같은 모델)에서 작업별로 바꾼 뒤, 수집, 린트, 쿼리에 각각 다른 모델을 지정할 수 있습니다. 흔한 조합: 수집은 저가·고속 모델(DeepSeek, MiniMax), 린트는 강력한 모델(Claude, GPT-4o), 쿼리는 긴 컨텍스트 모델. 연결 테스트는 fail-fast로 각 모델을 순차 점검하며, 모든 작업별 모델이 통과할 때까지 연결은 비정상으로 간주됩니다.
네 — PDF 수집을 Ollama 또는 LM Studio의 로컬 모델과 함께 쓰면 모든 PDF가 기기 안에서 완결됩니다. Apple Silicon에서 추천하는 구성은 Markitdown 백엔드와 바이두가 오픈소스로 공개한 Unlimited-OCR 모델(총 3B / 활성 0.5B), 그리고 oMLX를 Force PDF Support를 켠 사용자 정의 OpenAI 호환 제공업체로 연결하는 것입니다. PDF는 보관함을 떠나지 않고, 변환도 로컬에서 실행되며, 만들어진 마크다운이 같은 개체 추출 파이프라인으로 역시 기기 안에서 흘러갑니다.
섬이 아닙니다. 당신이 좋아하는 모든 도구가 이제 더 좋습니다.
연결 보기
위키가 그래프에 의미를 부여. 허브 페이지, 클러스터, 고립 노트. 장식이 아닌 탐색.
글 저장
클립을 보관함 어디든 저장한 뒤 Cmd+P → Ingest from folder 실행. AI가 추출, 연결, 업데이트. 한 번 클립으로 10개 이상의 위키 페이지 생성.
데이터 쿼리
AI가 구조를 추가. 태그, 날짜, 카테고리. 빈 테이블이 살아있는 대시보드로.
버전 추적
지식이 어떻게 진화하는지 지켜보세요. 모든 커밋이 당신의 성장 이야기를 전합니다.
슬라이드 만들기
"내 연구를 10분 발표용으로 요약해"라고 물어보세요. 위키가 지식에서 슬라이드를 만듭니다.
비주얼 캔버스
AI가 지식에서 개념도, 타임라인, 의사결정 트리를 구축. 더 이상 빈 캔버스가 아닙니다.
12개 제공자, 클라우드와 로컬. 언제든 바꾸세요 — 어디에도 묶이지 않습니다.
12개 제공자가 드롭다운 한 칸 거리. 마음에 안 들면 다음으로 — 위키는 눈치 채지 못합니다.
백엔드 없음. 추적 없음. 저장 없음. 노트는 당신이 고른 AI로만 이동합니다 — 로컬 모델이라면 기기 안에서 완결.
플러그인 자체는 무료예요. 전체 수집 한 번에 LLM 제공업체에 드는 비용은 $0.05–$0.50뿐. 가성비 좋은 모델을 고르면 비용은 거의 느껴지지 않습니다.
클라우드든 로컬이든 — 믿을 만한 것을 선택하세요.
긴 컨텍스트 모델이 위키 전체를 한 번에 읽습니다 — 단편이 아닌 완전한 그림. Ollama와 LM Studio는 기기 안에서 완전히 동작 — 업로드 없음, API 키 없음.