Yapay Zekâ Projesi İçin Sunucu Nasıl Seçilir?

Kısa cevap: Yapay zekâ projeniz için sunucu seçerken önce modeli eğitip eğitmeyeceğinizi, yoksa hazır bir modeli kullanarak uygulama mı sunacağınızı belirleyin. Büyük modelleri eğitmek ve yüksek hızda yapay zekâ çıkarımı (inference) yapmak çoğunlukla güçlü GPU ve yeterli VRAM gerektirir. API entegrasyonu, web uygulaması, küçük ölçekli RAG denemeleri ve bazı hafif, nicemlenmiş (quantized) modeller ise iş yüküne bağlı olarak CPU ve RAM ağırlıklı bir sunucuda çalışabilir.

Projenizi internete açık, sürekli çalışan bir uygulama olarak yayınlayacaksanız TuemCloud bulut sunucu paketlerini inceleyip ihtiyacınıza uygun kaynaklarla başlayabilirsiniz. GPU gerektiren eğitim veya yoğun çıkarım işleri için satın almadan önce GPU, VRAM ve yazılım uyumluluğunu ayrıca doğrulayın.

Önce yapay zekâ iş yükünüzü tanımlayın

“Yapay zekâ sunucusu” tek tip bir donanım anlamına gelmez. Aynı sunucu, bir API üzerinden dışarıdaki bir model sağlayıcısına istek gönderen uygulama için yeterli olabilirken, büyük bir modeli kendi üzerinde çalıştırmak için yetersiz kalabilir. Seçimi aşağıdaki iş yüküne göre yapın:

  • Model API’si kullanan uygulama: Model başka bir sağlayıcıda çalışır; sizin sunucunuz web uygulamasını, kullanıcı oturumlarını, veritabanını ve API isteklerini yönetir. Bu senaryoda CPU, RAM, disk ve ağ kapasitesi önemlidir; yerel GPU genellikle gerekmez.
  • RAG veya doküman arama prototipi: Uygulama, belge işleme, embedding üretimi ve vektör veritabanı gibi bileşenleri çalıştırır. RAM ve hızlı NVMe depolama önem kazanır. Embedding ve LLM üretimini yerel mi yoksa bir API üzerinden mi yapacağınızı önceden kararlaştırın.
  • Küçük modeli sunucu üzerinde çalıştırma: Nicemlenmiş küçük modeller CPU üzerinde denenebilir; yanıt süresi ve aynı anda hizmet verebileceğiniz kullanıcı sayısı donanıma, modele ve bağlam uzunluğuna göre değişir. GPU kullanmak istiyorsanız sunucuda gerçekten uygun GPU ve yeterli VRAM bulunduğunu doğrulayın.
  • Model eğitimi veya yoğun üretim trafiği: Çoğu modern derin öğrenme iş yükünde GPU, VRAM, sürücü ve CUDA/ROCm uyumluluğu temel gereksinimlerdir. GPU belleği yalnızca model ağırlıklarına değil, bağlam ve eşzamanlı isteklere de ayrılır. Bu işler için genel amaçlı bir CPU sunucusunu GPU sunucusu gibi değerlendirmeyin.

GPU mu, CPU mu? Kararı kullanım amacı belirler

CPU, uygulamanızın web isteklerini karşılar, arka plan görevlerini çalıştırır, veritabanına erişir ve AI servisleriyle iletişim kurar. API tabanlı bir ürün, yönetim paneli veya GPU’suz test ortamı için güçlü bir CPU sunucusu doğru başlangıç olabilir.

GPU ise paralel hesaplama gücüyle model eğitimi ve birçok yerel çıkarım işini hızlandırır. Ancak yalnızca “GPU var” demek yeterli değildir: GPU modeli, VRAM miktarı, sürücü desteği, framework uyumluluğu ve beklenen eşzamanlı kullanıcı sayısı birlikte değerlendirilmelidir. NVIDIA’nın model dağıtım rehberi de model ağırlıklarının yanında KV cache ve çalışma zamanı payı için GPU belleğinde alan bırakılması gerektiğini açıklıyor (NVIDIA model dağıtım ve bellek planlama rehberi).

Örneğin Ollama model kataloğunda 7B sınıfı modeller için yaklaşık 8 GB RAM gereksinimi belirtiliyor; gerçek ihtiyaç model sürümüne, nicemleme seviyesine, bağlam uzunluğuna ve aynı anda çalışan uygulamalara göre değişebilir (Ollama model kataloğu). Bu nedenle yalnızca parametre sayısına bakarak sunucu seçmeyin; hedef modelin kendi gereksinimlerini ve deneme sonuçlarınızı esas alın.

RAM ve NVMe disk kapasitesini nasıl planlamalısınız?

RAM ihtiyacını hesaplarken model veya uygulamanın yanı sıra işletim sistemi, veritabanı, vektör veritabanı, önbellek ve eşzamanlı işler için de pay bırakın. Model belleğe sığmıyorsa sistem diske taşma yapabilir; bu durum performansı belirgin biçimde düşürebilir. Trafik arttıkça tek bir isteğin bellek ihtiyacı da toplam kapasiteyi zorlayabilir.

Diskte model dosyaları, Docker imajları, kullanıcı yüklemeleri, loglar ve yedekler için ayrı alan düşünün. NVMe disk, sık erişilen veri ve uygulama dosyalarında hızlı depolama sağlar; fakat GPU belleğinin veya yetersiz RAM’in yerini tutmaz. Model dosyalarının boyutu büyüdükçe kullanılabilir disk alanını düzenli izleyin.

AI projesi için bulut sunucu ne zaman uygun?

Bulut sunucu; API ile çalışan AI uygulamalarını 7/24 yayınlamak, web arayüzü ve backend barındırmak, veritabanı veya RAG prototipi kurmak ve projenin kaynak ihtiyacını gözlemleyerek başlamak için kullanışlıdır. Fiziksel donanım satın almadan projeyi internete açabilir, gerçek kullanım ölçümlerine göre CPU, RAM ve disk ihtiyacınızı belirleyebilirsiniz.

TuemCloud’un bulut sunucu sayfasında İstanbul lokasyonlu, NVMe diskli ve farklı kaynak seçeneklerine sahip paketleri karşılaştırabilir, ihtiyacınıza uygun sunucuyu yapılandırabilirsiniz. Bu sayfadaki paketler genel amaçlı bulut sunuculardır; GPU gerektiren bir iş yükünüz varsa GPU donanımının ve ilgili yazılım desteğinin sipariş öncesinde mevcut olduğunu teyit edin.

Sunucuda kendi modelinizi kurmayı düşünüyorsanız VPS üzerinde DeepSeek ve Ollama kurulumu rehberimize de göz atabilirsiniz. Kurulum adımlarına geçmeden önce seçtiğiniz modelin bellek ve işlemci beklentisini kontrol edin.

Satın almadan önce kontrol listesi

  1. Modeli sunucuda mı çalıştıracaksınız, yoksa harici bir AI API’si mi kullanacaksınız?
  2. Eğitim, çıkarım, RAG veya yalnızca web uygulaması barındırma ihtiyaçlarından hangisi öncelikli?
  3. Seçtiğiniz modelin RAM/VRAM gereksinimi ve beklenen bağlam uzunluğu nedir?
  4. Kaç eşzamanlı kullanıcı veya istek bekliyorsunuz; yanıt süresi hedefiniz ne?
  5. Model dosyaları, veri tabanı, log ve yedekler için ne kadar NVMe disk alanı gerekiyor?
  6. GPU gerekiyorsa GPU modeli, VRAM, sürücüler ve framework desteği teyit edildi mi?
  7. Uygulamanız için güvenlik güncellemeleri, erişim kontrolü, izleme ve yedekleme planınız var mı?

Sıkça Sorulan Sorular

Yapay zekâ uygulaması çalıştırmak için mutlaka GPU sunucu gerekir mi?

Hayır. Harici bir AI API’si kullanan uygulamalar ve birçok web uygulaması GPU olmadan çalışabilir. Yerel model eğitimi veya hızlı, yoğun model çıkarımı hedefleniyorsa GPU ve yeterli VRAM gerekebilir; kesin ihtiyaç kullanılan modele ve iş yüküne bağlıdır.

VPS veya bulut sunucuda LLM çalıştırabilir miyim?

Modelin boyutuna, nicemleme seviyesine ve sunucu kaynaklarına bağlı olarak bazı küçük modeller CPU üzerinde çalıştırılabilir. Ancak yanıt üretimi yavaş olabilir ve eşzamanlı kullanıcı sayısı sınırlı kalabilir. GPU şartı olan bir model için GPU’lu sunucu tercih edin.

AI projesi için ne kadar RAM gerekir?

Tek bir sabit miktar yoktur. Model dosyası, çalışma zamanı, bağlam uzunluğu, uygulama bileşenleri ve eşzamanlı istek sayısı toplam RAM ihtiyacını belirler. Model dokümantasyonundaki gereksinimi başlangıç noktası kabul edin ve yük testiyle kapasiteyi doğrulayın.

Yapay zekâ projemi hangi sunucuda yayınlayabilirim?

API tabanlı uygulama, web arayüzü veya GPU gerektirmeyen test ortamı için TuemCloud bulut sunucu paketlerini inceleyebilirsiniz. Projeniz model eğitimi veya GPU hızlandırmalı çıkarım gerektiriyorsa GPU ve VRAM özelliklerini satın almadan önce ayrıca doğrulayın.

Sonuç: Yapay zekâ projesi için sunucu seçiminin ilk adımı CPU veya GPU’ya karar vermek değil, iş yükünü netleştirmektir. API kullanan uygulamalar ve prototipler için uygun CPU, RAM ve NVMe kaynaklarıyla başlayın; yerel eğitim veya yüksek hızlı çıkarım için GPU/VRAM gereksinimini doğrulayın. Bulut sunucu paketlerini inceleyerek projenizi yayına alabilir, ölçümlerinize göre kaynak planınızı güncelleyebilirsiniz.