Harici GPU kullanımı


#1

Selam arkadaşlar,

Şu an hali hazırda Dell XPS 15 9560 bir laptopum var. Ubuntu 18.04 üzerinde TensorFlow, Keras ve PyTorch’u laptopun kendi GPU’su üzerinde çalıştırabiliyorum. Laptopun GPU’su GTX 1050 ve bana yetmediğini düşünüyorum. 2 sorum var:

  1. GTX 1050’yi GTX 1080 ti ile değiştirebilir miyim?

  2. Aynı anda hem External GPU hem de kendi laptopumun GPU’sunu kullanmak için gerekli konfigürasyonları halletmek zor mu? Aynı anda 2 GPU kullanmak, kodumda çok değişikliğe sebep olur mu?

  3. GTX 1080 ti’yi, external gpu olarak kullanmak, desktop’ta kullanmaya kıyasla fazla performans kaybına sebep olur mu?


#2

Laptoplar, desktop gibi herhangi bir parçasını değiştirebileceğin bir yapıya sahip değildir, o yüzden ekran kartını değiştiremezsin (değiştirebileceğin parçalar ram/hdd/sdd ile sınırlıdır). Piyasada 20k TL’nin altında 1080’li GPU’lu laptop olmadığı göz önüne alırsan, ucuza laptop alıp sonradan ekran kartı değiştirmek hepimizin cebi için çok iyi olurdu =)

External GPU büyük ihtimal kullanabilirsin; ama birbirinden farklı 2 GPU kullandığında alacağın maksimum speedup, gene en yavaş GPU’yla doğru orantılı olacaktır. O yüzden external alacaksan da bunun elindeki kartla aynı olması gereksiz harcama yapmanın önüne geçer. Bir de çok büyük ihtimal communication cost’u gelecek external GPU’da ama kesin net sayı falan görmek istersen Google’da bunu deneyenlerin experimentlarına bak.

Parallel GPU kullanabilmek için PyTorch’ta kod değişikliği yapman gerekiyor (Multi-GPU title’lı tutoriallara bakabilirsin). Ama diğer library/frameworkler için bir şey diyemem.


#3

External GPU yu training yapmak için mi istiyorsunuz yoksa kodu çalıştırmak için mi ?
Eğer eğitim yapmak için gpu ihtiyacınız varsa notebook üzerinde yapmak yerine Google Colab kullanarak Tesla K80 gibi güçlü GPU larda eğitim yapmanızı tavsiye ederim. Çok iyi zamandan tasarruf edersiniz.

Fuat Bey’in bu konuda bir yazısı vardı;