Local LLM·오픈소스
오픈 웨이트 모델, 양자화, 추론 엔진, 온디바이스 AI, 파인튜닝처럼 직접 돌리는 AI의 소식입니다.
자주 나오는 말: GGUF, llama.cpp, vLLM, Ollama, MLX, LoRA
타임라인
-
엔비디아 RTX 스파크 확장, 노트북을 개인용 AI 슈퍼컴퓨터로
엔비디아가 윈도우 노트북용 AI 플랫폼 'RTX 스파크'의 지원 모델과 에이전트 기능을 확대했습니다. 대용량 메모리와 고성능 가속기를 통합해 노트북에서 직접 AI 모델 구동이 가능해집니다.