Küçük Bir LLM Mi Tercih Etmeliyiz Yoksa Büyük Bir LLM’i Quantize Mi Etmeliyiz?

Kod üretimi alanında, HumanEval (Python) ölçütleri üzerinden daha büyük bir LLM’i donanım kısıtlarımıza uyacak şekilde nicemlemek mi, yoksa…