AMD Instinct MI300X ve GLM-5.3-FP8
MI300X’te GLM-5.3-FP8 için DP8+EP8 düzeni
AMD’nin açıklamasına göre GLM-5.3-FP8, tek bir sekiz GPU’lu MI300X düğümünde DP8+EP8 düzeniyle çalıştırıldı. Yazı, bu yerleşimde uzmanların GPU’lara dağıtımını ve uzun-kısa bağlam iş yüklerinde TP=8 ile yapılan karşılaştırmaları inceliyor.
Yazıyı oku