Ortak kullanılan bir yapay zekâ hizmeti için ekran kartından fazlası gerekir. Bütçeye sunucu, bellek, diskler, güç kaynağı, soğutma ve açık bir işletim sorumluluğu dâhildir. Somut bir HPE ProLiant örneği, bu bileşenlerin anlaşılır biçimde nasıl hesaplanacağını gösterir.
Başlangıç noktası olarak sınırlı bir rack senaryosu
Planlamada bir işlemcili, 128 GB ECC bellekli ve 24 GB grafik belleğine sahip bir NVIDIA L4 içeren HPE ProLiant DL380 Gen11 varsayıyoruz. Hizmet, kurum içinde hazırlanmış metinleri ve onaylı belgeleri işleyecek. Makul eşzamanlı istek sayısını, gerçekten kullanılan model ve onun bağlam uzunluğuyla yapılacak test belirler.
Gen11 burada bilinçli olarak seçilmiş bir örnek platformdur. Yeni bir alımda güncel nesiller ve diğer uygun sistemler de karşılaştırılır. Model adı tek başına hangi kasa, disk kafesi ve genişletmelerin birlikte uyumlu olduğunu söylemez.
Farkı tam yapılandırma yaratır
HPE belgeleri, DL380 Gen11’i S0K89C L4 hızlandırıcı için desteklenen bir platform olarak listeler. Örneğimizde bir ön disk kafesli ve arka disk kafesi olmayan 8SFF kasa seçiyoruz. Aşağıdaki tablo planlama temelini açıklar; sipariş öncesinde tamamen doğrulanmış bir parça listesi gerekir.
| Bileşen | Örnekteki varsayım |
|---|---|
| CPU | Bir Intel Xeon Silver 4514Y, 16 çekirdek, 150 W TDP; beşinci Xeon nesline uygun Gen11 sürümü. |
| Bellek | Dört uyumlu 32 GB HPE DDR5 ECC RDIMM ile 128 GB. Yerleşim kurallarına göre takılır; sekiz bellek kanalının tamamı böylece dolmaz. |
| GPU | Bir NVIDIA L4 24 GB, HPE S0K89C, PCIe Gen4 x16, en fazla 72 W kart gücü. |
| PCIe | GPU, birincil standart riser’ın elektriksel olarak x16 bağlı 2. yuvasında. Ek bir ikincil riser öngörülmüyor. |
| Soğutma | High Performance Fan Kit P48820-B21; son yapılandırmaya uygun CPU soğutucusu ve hava akışı. |
| Güç kaynağı | İki uyumlu 1.000 W Titanium Flex Slot güç kaynağı P03178-B21; bir güç kaynağının arızalanması durumu ayrıca boyutlandırılmalıdır. |
| Diskler | Her biri 960 GB olan iki HPE SATA Mixed Use SSD P40503-B21 ayna olarak, MR216i-o denetleyici P47789-B21 ve uygun backplane/kablolar. Ayrı bir yedekleme hedefi öngörülüyor. |
| Ağ | Gerekli OCP bağlantısı dâhil uygun ağ bağdaştırıcısı temel bütçede; denetleyici ve CPU yerleşimiyle uyum kontrolü yapılır. |
HPE, L4 için toplam GPU belleğinin en az iki katı kadar sistem belleği öneriyor. Varsayılan 128 GB, bir kart için hesaplanan 48 GB’ı aşıyor. Bu bir boyutlandırma rehberidir; ek hizmetler, belge hazırlama ve işlerin CPU’ya aktarılması ayrı bir kapasite değerlendirmesi gerektirir.
Riser, yuva ve soğutma birlikte kontrol edilir. Mekanik olarak uygun bir yuva elektriksel olarak daha az hat sunabilir. Ek kartlar veya disk kafesleri kullanılabilir montaj konumunu değiştirebilir. Bu nedenle son parça listesinde braket, firmware, sürücü ve üretici onayı da doğrulanır.
Şeffaf bir planlama bütçesi nasıl görünür?
Tutarlar bu hesaplama örneği için serbestçe belirlenmiş bütçe varsayımlarıdır; tarih 15 Ekim 2026. Doğrulanmış bir satıcı teklifi veya DAXS’ın fiyat taahhüdü değildir. Satın almadan önce tedarik durumu kontrol edilir ve tüm yapılandırma için somut teklif alınır.
| Bütçe kalemi | Net tutar | Kapsam |
|---|---|---|
| Sunucu tabanı | 9.000,00 avro | Kasa, bir CPU, 128 GB ECC RAM, denetleyici ve iki güç kaynağı; GPU ve SSD’ler hariç. |
| Bir L4 | 3.000,00 avro | Hızlandırıcının onaylı HPE sürümü. |
| İki SSD | 1.800,00 avro | Planlanan ayna için uygun kurumsal sürümler. |
| Ek bileşenler | 700,00 avro | Fan kiti, raylar, braketler ve gerekli küçük parçalar; teklifte iki kez sayılmalarını önleyin. |
| Donanım servisi | 1.500,00 avro | Üç yıl için ayrılan tutar; gerçek kapsam ve GPU’nun kapsama dâhil olması kontrol edilmelidir. |
| Kurulum ve kabul | 1.800,00 avro | Entegrasyon ve sınırlı işlev testi bütçesi; kapsam ayrıca kararlaştırılır. |
| Net toplam | 17.800,00 avro | Varsayılan altı kalemin toplamı. |
| %20 KDV | 3.560,00 avro | Bu örnekte varsayılan Avusturya standart vergi oranı. |
| KDV dâhil toplam | 21.360,00 avro | Somut işlemin vergilendirilmesi ayrıca belirlenir. |
Mevcut rack, uygun elektrik devreleri, ağ ve yedekleme platformu bulunduğu varsayılır. Yeni UPS, iklimlendirme, işletim sistemi ve yapay zekâ yazılımı lisansları, sürekli yönetim ve elektrik burada hesaba katılmamıştır. Bir teklif bu sınırları açıkça netleştirmelidir. Aksi hâlde görünürde uygun bir sunucu fiyatı olduğundan daha kapsamlı görünür.
24 GB VRAM, model seçimini henüz çözmez
Model boyutuna bağlam, paralel işleme ve çalışma ortamı için gereken bellek eklenir. Kısa ve tek bir istekte çalışan model, uzun belgeler veya birden fazla kullanıcıyla farklı yük oluşturabilir. Bu nedenle temsilî yük altındaki pilot kaliteyi, bekleme sürelerini ve kapasite payını birlikte test eder.
Elektrik faturası da sistemin tamamına bağlıdır. GPU’nun 72 W’lık azami gücü, rack sunucusunun prizde ölçülmüş tüketimi değildir. İki 1.000 W güç kaynağı da hizmetin sürekli 2.000 W gerektirdiği anlamına gelmez. Güvenilir işletim maliyeti hesabı için boşta çalışma, tipik yük ve tepe yük ölçülür.
Servis, yedekleme ve geri dönüşü birlikte planlayın
Donanım servis sözleşmesi, belirli bileşen ve konumlar için belirli hizmetleri düzenler. Yanıt süresi, servis penceresi, parça bulunabilirliği ve yapay zekâ hizmetinin geri yüklenmesi ayrı konulardır. İşletimde yedek parçayı kimin takacağı, yazılımı kimin kontrol edeceği ve hizmetin işlevsel dönüşünü kimin onaylayacağı belli olmalıdır.
SSD aynası tek bir disk arızasında yardımcı olur. Yanlışlıkla silinen belgeler, bozuk yapılandırmalar veya tüm sunucunun arızalanması için test edilmiş bir geri dönüş yolu olan ayrı yedek gerekir. Kullanıcı yönetimi, model sürümleri ve gerekli hizmet yapılandırması bu plana dâhildir.
DAXS envanter, yapılandırma, entegrasyon ve kararlaştırılmış işletim konularında destek verir. Şu yerel LLM altyapısı uzmanlık sayfası mimariyi bağlamına oturtur. Şu konuya ilişkin yazı: Ollama ve Open WebUI ortak yapay zekâ hizmetini açıklar; HPE uzmanlık sayfası ise altyapı ve desteği tamamlar.
Uygun bir yapay zekâ kullanımını ve mevcut bütçeyi görüşün.
Kaynaklar: HPE: DL380 Gen11 QuickSpecs (haricî bağlantı) · HPE: NVIDIA hızlandırıcılar ve platform onayları (haricî bağlantı) · Intel: Xeon Silver 4514Y (haricî bağlantı) · NVIDIA: L4 teknik özellikleri (haricî bağlantı) · HPE: Tech Care hizmet tanımı (haricî bağlantı) · USP: KDV oranları (haricî bağlantı).