Local LLM·오픈소스
오픈 웨이트 모델, 양자화, 추론 엔진, 온디바이스 AI, 파인튜닝처럼 직접 돌리는 AI의 소식입니다.
자주 나오는 말: GGUF, llama.cpp, vLLM, Ollama, MLX, LoRA
타임라인
-
IBM, 소프트웨어처럼 업데이트 가능한 Granite Switch 4.1.1 출시
IBM이 모듈형 아키텍처를 활용한 Granite Switch 4.1.1 패치 버전을 공개했습니다. 이번 업데이트는 베이스 모델 수정 없이 어댑터만 교체하여 효율적인 배포가 가능합니다.