NVIDIA Kubernetes Engine (NVKE): Bare Metal GPU Altyapıları İçin Yönetim Katmanı

NVIDIA Kubernetes Engine (NVKE) Nedir?#

Kendi NVIDIA GPU altyapınız üzerinde yönetilen bir Kubernetes servisi çalıştırmanızı sağlayan NVIDIA Kubernetes® Engine (NVKE), bare metal (fiziksel sunucu) ortamlarında GPU destekli Kubernetes kümeleri için tasarlanmış güçlü bir yönetim katmanıdır (management plane). Platform ekipleri, kendi iç veya dış müşterileri için Kubernetes kümeleri oluşturmak ve işletmek amacıyla bu yönetim katmanını kurar.

Mimari açıdan her bir iş yükü kümesi (workload cluster); kendine ait bağımsız bir Kubernetes kontrol katmanına (control plane), etcd veritabanına ve düğüm havuzlarına (node pools) sahiptir. Bu yapı, yazılım geliştirme ve MLOps ekipleri için kritik bir soyutlama sunar: Platform ekibi NVKE yönetim katmanını işletirken, geliştiriciler ve veri bilimciler standart Kubernetes API ve kubectl araçlarını kullanarak kümeleriyle doğrudan etkileşime geçer.

Önizleme (Preview) Durumu: NVKE şu anda önizleme sürümündedir. Sürümler arasında API'ler, yapılandırmalar ve sistem davranışları değişiklik gösterebilir. Bu nedenle henüz canlı üretim (production) iş yükleri için önerilmemektedir; ancak modern AI altyapı mimarilerini öğrenmek ve test etmek için harika bir laboratuvar ortamı sunar.

Başlarken: Hedefinize Göre Yol Haritası#

NVKE ekosistemine adım atarken amacınıza göre izleyebileceğiniz üç temel yaklaşım bulunmaktadır:

• GPU Donanımı Olmadan Değerlendirme (Yerel Hızlı Başlangıç - Local Quickstart): Fiziksel bir GPU'ya sahip olmadan, simüle edilmiş makineler üzerinde bir geliştirme yönetim katmanı ve bir iş yükü kümesi elde edersiniz. Üstelik bu aşamada herhangi bir NVIDIA hesabına ihtiyaç duyulmaz. Bulut-yerel (cloud-native) geliştiricilerin mimariyi yerel ortamlarında hızlıca kavraması için en pratik yoldur.
• Kendi Altyapınıza Kurulum (Kurulum Planlama - Plan Your Installation): Düğümleri (nodes) hazırlamak, bir yönetim kümesini başlatmak (bootstrapping) ve gerekli servisleri kurmak için gereken ön koşulları ve adımları içerir.
• Derleme veya Katkıda Bulunma (Kaynaktan Derleme - Build from Source): NVKE ikili dosyalarını (binaries) oluşturmayı ve açık kaynak katkıcı geliştirme döngüsüne (contributor development loop) dahil olmayı kapsar. Go çalışma alanı (go.work) ve Cluster API bileşenleri içeren bu depo, altyapı yazılımı geliştirenler için zengin bir referanstır.

Sistem Gereksinimleri ve Pratik Kurulum Çıkarımları#

Yerel hızlı başlangıç (local quickstart) ortamını çalıştırmak için amd64 veya arm64 mimarisine sahip bir Linux ana bilgisayara veya sanal makineye (VM) ihtiyacınız vardır. Donanım ve yazılım gereksinimleri şunlardır:

• En az 6 CPU, 12 GiB boş bellek (RAM) ve 100 GiB boş disk alanı
• Docker, sanal TPM (virtual TPM) desteği ve kurulum rehberinde listelenen yardımcı araçlar

Kurulum adımlarını iş yükü kümesi oluşturma aşamasına kadar takip ettiğinizde, küme düğümlerinin Ready durumunu raporladığını doğrulamanız gerekir. macOS kullanan geliştiriciler ise değerlendirme ortamını bir Colima sanal makinesi içinde çalıştıran yerel site rehberini kullanabilir.

Gerçek bir fiziksel kurulumda ise makineleri, ağ yapılandırmasını, düğüm imajlarını ve imaj kayıt defterlerini (registries) sizin sağlamanız ve NVIDIA Infra Controller (NICo) erişimini yapılandırmanız gerekir. Önizleme aşamasında uyumlu tek altyapı sağlayıcısı NICo'dur. Doğrulanmış kombinasyonlar ve sabitlenmiş bağımlılıklar (pinned dependencies) platform ve sürüm referansında listelenmektedir.

NVKE Ne Yapar?#

Temel görev olarak NVKE, birbirinden izole ve bağımsız iş yükü kümeleri (independent workload clusters) oluşturarak çok kiracılı (multi-tenant) GPU altyapı yönetimini standartlaştırır.