LLM 양자화 가이드 — 내 PC로 70B 모델 돌리기
LLM 양자화로 내 PC에서 70B 모델을 실행하는 방법을 정리했습니다. GGUF·GPTQ·AWQ 기법 비교, GPU별 모델 선택법, Ollama 실전 가이드까지 한 번에 안내합니다.
로컬 RAG 구축 가이드, 내 PC에서 프라이빗 AI 검색
클라우드 API 없이 내 PC에서 완전한 RAG 시스템을 구축하는 방법을 단계별로 안내합니다. 데이터 프라이버시를 지키면서도 강력한 AI 문서 검색을 구현해 보세요.
Open WebUI 설치 가이드 – 내 PC에 ChatGPT 대안 무료 구축법
Open WebUI를 Docker로 설치해 ChatGPT 같은 AI 채팅 인터페이스를 내 PC에 무료로 구축하는 방법을 단계별로 안내합니다. 멀티유저, RAG, 웹 검색까지 완벽 활용법을 다룹니다.
Mac Studio M4 Ultra 512GB, LLM 돌려보니 GPU 서버가 부럽지 않더라 – 실측 비교 정리
Mac Studio M4 Ultra 512GB로 로컬 LLM을 돌리며 겪은 실전 경험을 정리했습니다. Ollama와 MLX의 성능 차이, 대형 모델에서의 통합 메모리 장점, 그리고 GPU 서버 대비 소음·전력 트레이드오프까지 실측 데이터와 함께…
내 PC에서 AI 무료로 돌리기 – Ollama 로컬 LLM 완벽 입문
내 PC에서 AI를 직접 실행하는 로컬 LLM 입문 가이드. Ollama 설치부터 Gemma3 모델 실행까지 초보자도 따라할 수 있게 단계별로 설명합니다. 무료·무제한·프라이버시 보호까지 챙기세요.