Local LLM·오픈소스

오픈 웨이트 모델, 양자화, 추론 엔진, 온디바이스 AI, 파인튜닝처럼 직접 돌리는 AI의 소식입니다.

자주 나오는 말: GGUF, llama.cpp, vLLM, Ollama, MLX, LoRA