MiniCPM-V 4.7: AMD Radeon GPU ve Ryzen AI NPU Desteği
MiniCPM-V 4.7, AMD Radeon GPU desteğiyle yayımlandı. Yazı; desteklenen Radeon donanımlarını, 1B ve 35B-A3B model varyantlarını, XDNA 2 NPU’lu Ryzen AI sistemlerdeki FastFlowLM iş akışını ve paylaşılan NPU ölçümünü ele alıyor. GPU tarafında performans ölçümleri paylaşılmadı.
Bu yazıda
MiniCPM-V 4.7, açık kaynak olarak yayımlandığı gün AMD Radeon GPU desteğiyle sunuldu. Cihaz üzeri yapay zekâ çıkarımı için 1B ve 35B-A3B olmak üzere iki model varyantı bulunuyor. GPU doğrulaması Radeon AI PRO R9700, Radeon PRO W7900D ve Radeon 8060S grafikli Ryzen AI Max 395 platformunu kapsıyor.
Radeon GPU doğrulamasının kapsamı
Radeon GPU doğrulamasının kapsamı
AMD’nin GPU doğrulaması işlevsel doğruluğa odaklandı. Aktarım hızı, ilk belirtece kadar geçen süre ve GPU bellek kullanımı için ölçüm paylaşılmadı.
Ryzen AI NPU ile çalışma biçimi
Ryzen AI NPU ile çalışma biçimi
FastFlowLM v1.0.8, XDNA 2 NPU bulunan desteklenen Ryzen AI platformlarında MiniCPM-V-4.7-1B çıkarımını destekliyor. İş akışında metin ve görüntü girdileri kullanılabiliyor; tek istekte birden fazla görüntü gönderilebiliyor.
NPU testinde kod çözme hızı, 1K ile 32K arasındaki bağlam uzunluklarında yaklaşık 44 ile 23 belirteç/saniye arasında ölçüldü.