Gemma 4 QAT 모델: 모바일 및 노트북 효율성을 위한 모델 압축 최적화

간편 요약

Google은 Gemma 4 가족에 QAT(Quantization-Aware Training) 체크포인트를 적용한 새 모델을 공개해, 메모리 요구량을 크게 줄이고 모바일·노트북·소비자 GPU에서의 온디바이스 성능을 높였다고 밝혔다. Q4_0 형식과 모바일 전용 양자화 형식을 제공하며, Gemma 4 E2B는 모바일 형식에서 1GB 미만 메모리로 줄었다. Hugging Face, llama.c...