MCP Üzerinden MI300X: Matris Çekirdeklerinin Yürüttükleri ve Yürütmedikleri

Bu makale, AMD Developer Cloud üzerinde barındırılan tek bir AMD Instinct MI300X GPU hızlandırıcısının donanım envanterini ve ölçüm sonuçlarını adım adım ele almaktadır. Yerel çalışma istasyonunda fiziksel bir AMD grafik kartı bulunmadığından, saatlik 1,99 dolar maliyetle kiralanan bu sanal sunucunun (droplet) yönetimini basitleştirmek üzere Python tabanlı Model Context Protocol (MCP) araç paketi (amd-gputools) geliştirilmiştir. Altyapı yönetimi; envanter çıkarma, güç kontrolü, yeniden başlatma, donanım taraması, GPU durum tespiti ve uzaktan komut yürütme işlemlerini gerçekleştiren etiket kapsamlı 12 farklı MCP aracı üzerinden yürütülmektedir.

Yazılım mühendisliği ve observability açısından önemli bir pratik ders ortaya çıkmıştır: MCP araçlarının döndürdüğü ilk okumalardan ikisi hatalı sonuç vermiş; yalnızca durum (status) koduna güvenmek yerine doğrudan komut çıktısını ayrıştırarak (parsing) bu hatalar düzeltilmiştir. Ayrıca elde edilen format tablosu, AMD'nin yayımladığı teorik zirve değerlerle iki noktada uyuşmamakta ve bu durum donanım doğrulamasının önemini göstermektedir.

Ön Koşullar

AMD Developer Cloud Hesabı: Önceden yapılandırılmış bir GPU droplet'ı bulunmalıdır. devcloud.amd.com altyapısı DigitalOcean v2 API'sini kullanır ve API belirteci kişisel hesaptan değil, My AMD Team hesabından temin edilmelidir.
Etiketlenmiş Droplet (Tagging): Sunucudaki tüm sorgular tag_name parametresine bağlıdır; etiketsiz makineler sunucu tarafından algılanamazken, etiketli yapılar kaynak izolasyonunu garanti altına alır.
Erişim Belirteci: DIGITALOCEAN_ACCESS_TOKEN, ortam değişkeni olarak, 0600 dosya izinlerine sahip .env dosyasında ya da ~/ocean.txt dizininde tanımlanmalıdır.
Root SSH Anahtarı: Droplet üzerinde root yetkili bir SSH anahtarı yerleştirilmelidir. Hatalı anahtar durumunda parola isteminde asılı kalmayı engellemek adına süreç boyunca BatchMode=yes parametresi kullanılır.
Sistem Düzeyinde Python 3: Sistem yorumlayıcısında httpx ve python-dotenv paketleri hazır bulunmalıdır. Sanal ortam (virtualenv) kurulmaz; .mcp.json dosyası sunucuyu doğrudan çıplak python3 komutuyla ayağa kaldırır.

Ayrıntılı Donanım ve Sistem İncelemesi

MCP sunucusu aracılığıyla hardware_scan, rocminfo ve lspci komutlarıyla toplanan sistem bileşenleri:

Ana Bilgisayar (Host) Mimarisi: Intel Xeon Platinum 8568Y+ işlemci (20 vCPU, 1 soket, 20 çekirdek, SMT devre dışı), 236 GB kullanılabilir bellek (RAM) ve Debian 13 (trixie) işletim sistemi.
GPU Özellikleri: 304 Hesaplama Birimi (Compute Unit - CU), CU başına 4 SIMD, gfx942 hedef mimarisi, 2100 MHz azami saat hızı, 128 B önbellek satırı ve PCIe Gen5 x16 bağlantısına sahip AMD Instinct MI300X VF.
Bellek Havuzu (Large-BAR): 191.69 GiB (205.822.885.888 B) toplam VRAM'in tamamı VIS_VRAM olarak işlemci tarafından doğrudan adreslenebilir durumdadır (Large-BAR). Bu mimari, eski 256 MB pencere sınırını kaldırarak büyük modellerin doğrudan barındırılmasını sağlar. Ölçümlerde rocm-smi aracının gerçekte %87,8 olan kullanımı %87 olarak aşağı yuvarladığı tespit edilmiştir.

Orijinal kaynağa buradan ulaşabilirsiniz.

Bu konuyu derinlemesine öğrenmek isterseniz: Production MCP Entegrasyonu modülüne göz atın.