Local LLM·오픈소스
오픈 웨이트 모델, 양자화, 추론 엔진, 온디바이스 AI, 파인튜닝처럼 직접 돌리는 AI의 소식입니다.
자주 나오는 말: GGUF, llama.cpp, vLLM, Ollama, MLX, LoRA
타임라인
-
미스트랄 AI, '라지 4' 오픈웨이트 공개 및 정식 출시
미스트랄 AI가 성능을 개선한 '미스트랄 라지 4'의 가중치를 공개하며 정식 출시했다. 기존 API 방식에서 벗어나 기업이 모델을 직접 내려받아 자체 시스템에 구축할 수 있다.