DeepSeek Nasıl Kurulur? VPS Sunucuda Kendi Yapay Zekânızı Çalıştırın

Yapay zekâ araçları artık yalnızca internet üzerinden kullanılan hazır servislerden ibaret değil. DeepSeek-R1 gibi açık ağırlıklı modeller sayesinde, uygun donanıma sahip bir bilgisayarda veya sunucuda kendi yapay zekâ sisteminizi çalıştırabilirsiniz.

Üstelik bunun için sıfırdan bir yapay zekâ uygulaması geliştirmeniz gerekmiyor. Ollama ile modeli sunucunuza indirebilir, Open WebUI ile tarayıcı üzerinden kullanabileceğiniz bir sohbet arayüzü oluşturabilirsiniz.

Bu rehberde DeepSeek-R1 modelini Ubuntu Linux üzerinde Docker ve Ollama kullanarak nasıl çalıştırabileceğinizi adım adım anlatacağız. Kurulumun sonunda kendi sunucunuzdan erişebileceğiniz bir yapay zekâ arayüzüne sahip olacaksınız.

DeepSeek Nedir?

DeepSeek, farklı yapay zekâ modelleri geliştiren bir yapay zekâ şirketidir. DeepSeek-R1 ise özellikle akıl yürütme, matematiksel problemler ve kodlama gibi görevlerde kullanılabilen bir model ailesidir.

DeepSeek-R1 ailesinde farklı boyutlarda modeller bulunur. Örneğin 1.5B, 7B, 8B, 14B, 32B ve 70B gibi seçenekler, farklı donanım kapasitelerine göre tercih edilebilir. Buradaki B ifadesi milyar parametreyi temsil eder.

Bu modellerin bazıları daha büyük modellerden damıtılarak oluşturulmuştur. Bu sayede daha düşük donanım kaynaklarına sahip sistemlerde de çalıştırılabilecek seçenekler sunulur.

DeepSeek'i Kendi Sunucunuzda Çalıştırmanın Avantajları

DeepSeek'i kendi bilgisayarınızda veya kiraladığınız bir sunucuda çalıştırmak, kullanım senaryonuza bağlı olarak çeşitli avantajlar sağlayabilir:

  • Kontrol: Modelin çalıştığı ortamı ve kullandığınız altyapıyı kendiniz yönetirsiniz.
  • Yerel çalışma: Uygun model ve donanımla, model çıkarımı için harici bir yapay zekâ API'sine ihtiyaç duymadan çalışabilirsiniz.
  • Özelleştirme: Open WebUI ve farklı uygulamalarla kendi kullanım ortamınızı oluşturabilirsiniz.
  • Entegrasyon: Modeli API üzerinden kendi yazılımlarınızla veya otomasyon sistemlerinizle entegre edebilirsiniz.
  • Kaynak yönetimi: Sunucunun işlemci, RAM, disk ve varsa GPU kaynaklarını ihtiyacınıza göre planlayabilirsiniz.

Ancak kendi sunucunuzda çalıştırmak, otomatik olarak bütün verilerin güvende olduğu anlamına gelmez. Sunucu güvenliği, erişim yetkileri, ağ ayarları ve yedekleme işlemleri ayrıca yapılandırılmalıdır.

DeepSeek Kurulumu İçin Gerekenler

Kuruluma başlamadan önce donanım ve yazılım gereksinimlerini belirlemek önemlidir. Özellikle model boyutu arttıkça RAM ve GPU belleği ihtiyacı da artar.

1. Sunucu gereksinimleri

Aşağıdaki tablo, Ollama kütüphanesindeki DeepSeek-R1 modellerinin yaklaşık indirme boyutlarını ve başlangıç için değerlendirilebilecek kaynak seviyelerini gösterir. Donanım değerleri kesin çalışma garantisi değildir; modelin nicemleme biçimi, bağlam uzunluğu, eş zamanlı kullanıcı sayısı ve işletim sistemi kaynakları sonucu etkiler.

ModelYaklaşık model boyutuBaşlangıç için RAM değerlendirmesiDeepSeek-R1 1.5B1,1 GB8 GB ve üzeriDeepSeek-R1 7B4,7 GB16 GB ve üzeriDeepSeek-R1 8B5,2 GB16 GB ve üzeriDeepSeek-R1 14B9 GB32 GB ve üzeriDeepSeek-R1 32B20 GB48-64 GB ve üzeriDeepSeek-R1 70B43 GB64 GB ve üzeriNot: RAM önerileri yaklaşık başlangıç planlamasıdır. Modelin belleğe tamamen sığması, bağlam uzunluğu ve GPU kullanımı ayrıca değerlendirilmelidir. Özellikle büyük modeller için güçlü GPU ve yeterli VRAM ciddi performans avantajı sağlar.

2. Yazılım gereksinimleri

  • Ubuntu 22.04 veya 24.04 gibi desteklenen bir Linux dağıtımı
  • SSH ile sunucuya erişim
  • Docker
  • Ollama ve Open WebUI
  • Model dosyalarını indirmek için yeterli disk alanı

Bu rehberde Docker üzerinden Ollama ve Open WebUI'nin birlikte çalıştığı kurulumu kullanacağız. Böylece iki ayrı servisi tek bir Docker konteyneri üzerinden başlatabileceğiz.

Adım Adım DeepSeek Kurulumu

Adım 1: Linux sunucuya bağlanın

Öncelikle Linux sunucunuza SSH üzerinden bağlanın. Windows kullanıyorsanız PowerShell veya Windows Terminal üzerinden aşağıdaki komutu çalıştırabilirsiniz:

ssh root@SUNUCU_IP_ADRESI

SUNUCU_IP_ADRESI bölümünü kendi sunucunuzun IP adresiyle değiştirmelisiniz. Root hesabı yerine yetkili bir kullanıcı kullanıyorsanız kendi kullanıcı adınızı yazın.

Adım 2: Sunucuyu güncelleyin

Kurulumdan önce paket listelerini ve mevcut yazılımları güncellemek iyi bir başlangıçtır. Ubuntu ve Debian tabanlı sistemlerde şu komutları kullanabilirsiniz:

sudo apt update
sudo apt upgrade -y

İşlem tamamlandıktan sonra Docker kurulumuna geçebilirsiniz.

Adım 3: Docker kurulumu yapın

Docker, uygulamaları birbirinden izole konteynerler içinde çalıştırmanızı sağlar. Ollama ve Open WebUI'yi bu yöntemle yönetmek kurulum ve güncelleme işlemlerini kolaylaştırır.

Docker'ın resmi kurulum dokümantasyonunu takip ederek sisteminize uygun sürümü yükleyin:

Docker Ubuntu kurulum dokümantasyonu

Kurulumdan sonra Docker servisinin durumunu kontrol edin:

sudo systemctl status docker

Docker'ın çalıştığını gördükten sonra sonraki adıma geçebilirsiniz.

Adım 4: Ollama ve Open WebUI'yi başlatın

Ollama, yapay zekâ modellerini indirip çalıştırmak için kullanılır. Open WebUI ise bu modellere tarayıcı üzerinden erişmenizi sağlayan kullanıcı arayüzüdür.

Aşağıdaki komut, Ollama ve Open WebUI'yi birlikte içeren CPU uyumlu konteyneri başlatır:

docker run -d \
  -p 127.0.0.1:3000:8080 \
  -v ollama:/root/.ollama \
  -v open-webui:/app/backend/data \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:ollama

Burada iki kalıcı Docker volume kullanılır. ollama indirilen modelleri, open-webui ise arayüzün verilerini saklar. Konteyner yeniden başlatıldığında bu veriler korunur.

Komutta portu özellikle 127.0.0.1 adresine bağladık. Böylece arayüz doğrudan bütün internete açılmaz. Dışarıdan erişim için daha sonra güvenli bir ters proxy ve HTTPS yapılandırması yapacağız.

Adım 5: DeepSeek-R1 modelini indirin

Şimdi Ollama üzerinden DeepSeek-R1 modelini indirebiliriz. Başlangıç için daha düşük kaynak isteyen 1.5B modelini tercih edebilirsiniz:

docker exec -it open-webui ollama run deepseek-r1:1.5b

Biraz daha güçlü bir sisteminiz varsa 8B modelini de deneyebilirsiniz:

docker exec -it open-webui ollama run deepseek-r1:8b

İlk çalıştırmada model dosyaları indirilecektir. İndirme süresi internet hızınıza ve modelin boyutuna bağlıdır. Model indirildikten sonra Ollama üzerinden çalıştırılabilir.

Önemli: 8B modelin dosya boyutunun yaklaşık 5,2 GB olması, toplam sistem ihtiyacının da 5,2 GB olduğu anlamına gelmez. Modelin çalışması sırasında ek RAM veya GPU belleği gerekir.

Adım 6: DeepSeek'i test edin

Model indirildikten sonra terminal üzerinden ona bir soru yönelterek çalışıp çalışmadığını kontrol edebilirsiniz. Örneğin:

docker exec -it open-webui ollama run deepseek-r1:1.5b

Komut açıldıktan sonra aşağıdaki gibi bir soru yazabilirsiniz:

Türkiye'de bir web sitesi kurmak için hangi adımları izlemeliyim?

Model yanıt üretiyorsa temel kurulum tamamlanmış demektir. Çıkmak için terminalde /bye komutunu kullanabilirsiniz.

Open WebUI ile DeepSeek'e Tarayıcıdan Erişin

Terminal üzerinden modelle konuşmak yerine grafik arayüz kullanmak istiyorsanız Open WebUI bunun için uygun bir seçenektir.

Kurulum sırasında Open WebUI konteyneri başlatılmıştı. Sunucu üzerinde yerel erişimi test etmek için SSH bağlantınızda aşağıdaki komutu kullanarak tünel oluşturabilirsiniz:

ssh -L 3000:127.0.0.1:3000 root@SUNUCU_IP_ADRESI

Ardından kendi bilgisayarınızın tarayıcısında şu adresi açın:

http://localhost:3000

İlk açılışta yönetici hesabınızı oluşturun. Daha sonra Open WebUI içinden indirilen DeepSeek-R1 modelini seçerek sohbet etmeye başlayabilirsiniz.

Sunucuya internet üzerinden sürekli erişmek istiyorsanız doğrudan portu herkese açmak yerine alan adı, HTTPS ve kimlik doğrulama içeren bir ters proxy yapılandırması kullanın. Güvenlik duvarında yalnızca gerekli portlara izin verin.

DeepSeek Kurulumunda Dikkat Edilmesi Gereken Güvenlik Önlemleri

Kendi yapay zekâ sunucunuzu çalıştırırken yalnızca modelin kurulması yeterli değildir. Özellikle internete açık bir sunucu kullanıyorsanız aşağıdaki önlemleri uygulamalısınız:

  • Ollama API portunu herkese açmayın: 11434 portunu doğrudan internete açmak yerine yerel erişim veya kontrollü ağ yapılandırması kullanın.
  • Open WebUI erişimini koruyun: Güçlü parolalar kullanın ve herkese açık kayıt seçeneğini ihtiyacınıza göre sınırlandırın.
  • HTTPS kullanın: Dış erişim gerekiyorsa alan adınız üzerinden SSL/TLS sertifikasıyla güvenli bağlantı sağlayın.
  • Güvenlik duvarını yapılandırın: Kullanılmayan portları kapatın ve yönetim erişimini sınırlandırın.
  • Güncellemeleri takip edin: Docker imajlarını, işletim sistemini ve kullandığınız uygulamaları düzenli olarak güncelleyin.
  • Yedek alın: Open WebUI verilerini ve önemli yapılandırmaları düzenli olarak yedekleyin.

Sunucu güvenliği hakkında daha fazla bilgi için Sunucu Güvenliği Nasıl Sağlanır? rehberimizi de inceleyebilirsiniz.

DeepSeek İçin VPS mi, GPU Sunucu mu Gerekir?

Bu sorunun cevabı çalıştırmak istediğiniz modelin boyutuna ve beklediğiniz performansa bağlıdır.

Küçük modeller CPU üzerinde de çalışabilir. Ancak yanıt üretme hızı, işlemci gücüne ve RAM kapasitesine bağlı olarak düşük kalabilir. Daha büyük modellerde veya birden fazla kullanıcının aynı anda işlem yaptığı senaryolarda GPU hızlandırması önemli hâle gelir.

  • Küçük modeller ve denemeler: Yeterli RAM ve işlemci kaynağına sahip bir VPS ile başlayabilirsiniz.
  • Daha büyük modeller: Daha yüksek RAM ve güçlü işlemci kaynakları gerekir. GPU kullanımı performansı artırabilir.
  • Yoğun kullanım: Birden fazla kullanıcının aynı anda sorgu gönderdiği sistemlerde GPU belleği, işlem kapasitesi ve eş zamanlı istek yönetimi birlikte planlanmalıdır.

VPS seçeneklerini incelemek için TuemCloud VPS Sunucu sayfamızı ziyaret edebilirsiniz. Paket seçerken yalnızca fiyatı değil, RAM ve işlemci kaynaklarını da dikkate alın. GPU gerektiren bir model çalıştıracaksanız seçtiğiniz hizmetin GPU desteğini ayrıca doğrulayın.

Sık Sorulan Sorular

DeepSeek ücretsiz kurulabilir mi?

Ollama üzerinden sunucunuzda çalıştırabileceğiniz DeepSeek-R1 model dosyaları ücretsiz olarak indirilebilir. Ancak sunucu, elektrik, depolama ve donanım maliyetleri size aittir.

DeepSeek'i Windows bilgisayarda çalıştırabilir miyim?

Evet. Ollama'nın Windows sürümünü kurarak uyumlu DeepSeek-R1 modellerini bilgisayarınızda çalıştırabilirsiniz. Performans bilgisayarınızın RAM, işlemci ve GPU kapasitesine bağlıdır.

GPU olmadan DeepSeek çalışır mı?

Evet. Uygun boyuttaki modeller CPU üzerinde çalışabilir. Ancak özellikle büyük modellerde yanıt üretme hızı düşük olabilir. GPU zorunlu değildir fakat performans açısından önemli avantaj sağlayabilir.

DeepSeek-R1'in bütün sürümleri aynı mı?

Hayır. 1.5B, 7B, 8B, 14B, 32B ve 70B gibi farklı boyutlarda modeller bulunur. Bunların bellek ihtiyaçları ve performansları farklıdır. Ayrıca küçük modellerin bir bölümü daha büyük modellerden damıtılmış sürümlerdir.

DeepSeek'i VPS üzerinden uzaktan kullanabilir miyim?

Evet. Open WebUI'yi bir alan adı ve HTTPS ile yapılandırarak tarayıcı üzerinden uzaktan erişim sağlayabilirsiniz. Bunun için kimlik doğrulama, güvenlik duvarı ve ters proxy ayarlarının doğru yapılması gerekir.

DeepSeek'i kurmak için hangi VPS paketi yeterlidir?

Tek bir paket bütün modeller için yeterli değildir. Küçük modeller için daha mütevazı kaynaklar yeterli olabilirken 14B ve üzerindeki modeller daha fazla RAM ve tercihen GPU kaynağı gerektirir. Paket seçimini çalıştıracağınız modelin bellek ihtiyacına göre yapmalısınız.

Sonuç: Kendi Yapay Zekâ Altyapınızı Oluşturun

DeepSeek-R1'i Ollama ve Open WebUI ile kendi sunucunuzda çalıştırmak, yapay zekâ teknolojilerini daha yakından tanımak ve kendi kullanım ortamınızı oluşturmak için iyi bir başlangıçtır.

Doğru model seçimi, yeterli donanım kaynakları ve güvenli sunucu yapılandırmasıyla tarayıcı üzerinden erişilebilen bir yapay zekâ sistemi oluşturabilirsiniz. Küçük modellerle başlayıp ihtiyaçlarınız arttıkça donanımınızı ve altyapınızı geliştirebilirsiniz.

Kendi projeleriniz, uygulamalarınız veya yapay zekâ denemeleriniz için yönetilebilir bir sunucu altyapısına ihtiyacınız varsa TuemCloud VPS sunucu seçeneklerini inceleyebilirsiniz.