Gradient Descent Ve Computation Graph


#1

Merhabalar,

GD ile tam olarak ne yapilmak isteniyor. Yani bu oval grafik sinir agimda neye karsilik geliyor? Gradient descent’in ogrenmeye olan etkisi nedir?

Back prop dedikleri kisim asagida yapilan islem mi olmus oluyor? Back prob agin ogrendigi kisim mi olmus oluyor? Ve bu nasil olmus oluyor?


#2

GD ile tam olarak ne yapilmak isteniyor. Yani bu oval grafik sinir agimda neye karsilik geliyor? Gradient descent’in ogrenmeye olan etkisi nedir?

Gradyan düşümü algoritmasını derin öğrenme ağının öğrendiği parametreleri opitimize etmek için kullanıyoruz. Oval grafik parametreleri belirtiyor. Ama o basitleştirilmiş bir gösterimdir. Dikkat ederseniz bir eksen ağırlık (w) diğer eksen ise bias (b) değerinden oluşuyor. Ama öğrenmeye çalışılan parametrelerden bundan çok da fazladır.

Back prop dedikleri kisim asagida yapilan islem mi olmus oluyor? Back prob agin ogrendigi kisim mi olmus oluyor? Ve bu nasil olmus oluyor?

Backprop yapay zeka algoritmalarınının neredeyse hepsinde kullanılan öğrenme algoritmasıdır. Backprop ile ağın çıkışında elde edilen hata geriye doğru yayılarak parametreler optimize edilir. Daha iyi anlamak için aşağıdaki iki yazıya göz atabilirsiniz: