Local LLM·오픈소스
오픈 웨이트 모델, 양자화, 추론 엔진, 온디바이스 AI, 파인튜닝처럼 직접 돌리는 AI의 소식입니다.
자주 나오는 말: GGUF, llama.cpp, vLLM, Ollama, MLX, LoRA
타임라인
-
Baseten, 초저가·고성능 2B 의사결정 모델 'joey-1' 공개
Baseten의 Base Labs가 Qwen3.5-2B를 기반으로 한 2B 파라미터 모델 joey-1을 출시했습니다. 이 모델은 텍스트 생성 대신 라벨과 확률을 반환하며, 분류 및 가드레일 체크에 최적화되었습니다.