LLM’lerde Mixture of Experts Nedir?

AI sistemleriyle biraz vakit geçirince bir noktadan sonra şu tarz model isimlerini görmeye başlıyorsunuz: 30B-A3B, 235B-A22B, Mixtral 8x7B…