Mac Studio M4 Ultra 512GB, LLM 돌려보니 GPU 서버가 부럽지 않더라 – 실측 비교 정리
Mac Studio M4 Ultra 512GB, LLM 돌려보니 GPU 서버가 부럽지 않더라 – 실측 비교 정리에 댓글 없음
Mac Studio M4 Ultra 512GB로 로컬 LLM을 돌리며 겪은 실전 경험을 정리했습니다. Ollama와 MLX의 성능 차이, 대형 모델에서의 통합 메모리 장점, 그리고 GPU 서버 대비 소음·전력 트레이드오프까지 실측 데이터와 함께…
RAG 입문 – AI에게 내 문서를 학습시켜 맞춤 비서 만드는 법
RAG(검색 증강 생성) 기술로 AI에게 내 문서를 학습시켜 맞춤형 AI 비서를 만드는 방법을 초보자도 따라 할 수 있도록 단계별로 안내합니다.