LLM Inference’ta 4-Bit Nicemleme: AWQ, GPTQ ve GGUF Karşılaştırması

4-bit quantization ile modelleri 4 kat küçültmek mümkün. Peki AWQ mu, GPTQ mu yoksa GGUF mu daha iyi? 2026 itibarıyla teknik karşılaştırma…