Standart networkler öğrenilen özellikleri paylaşmazlar mı?


#1

Andrew NG’in RNN model yapısından bahsetmeye başladığı videoda Standart networklerin öğrenilen özellikleri paylaşmadığı, CNN’in yaptığını, RNN’in yaptığından vs bahsediyor.

Anlayamadığım ise şu,
m input girişli bir feed forward network kurduğumda, özellikle bu network full connected ise her node nin öğrendiği diğerleri tarafından kullanılabiliniyor, yani özellik paylaşımı mevcut.

Benim kaçırdığım nokta nedir?


#3

Bir resime CNN uygularsanız aynı ağırlıkları resmin farklı yerlerinde kullanmış olursunuz. Veya bir cümleye RNN uygularsanız yine aynı ağırlıkları farklı kelimeler için kullanmış olursunuz.Feed forwardda ise her ağırlık farklı bir bölge üzerinde işlem yapar. Sanırım paramater sharing’ten bu kastedilmiș.


#4

Açıkcası sizin cevabınız çok daha mantıklı geldi.


#5

Burayı anlayamadım, feed forwardda da bir input için öğrenilen ağırlıklar, diğer input içinde kullanılmıyor mu, CNN ile farkı ne?


#2

Merhabalar
Sorunuz tam anlayamadım açıkcası , rnn özellik paylaşımını “yapıyor mu” yoksa “yapmıyor mu” diye soruyorsunuz. Özellik paylaşımından kasıt “transfer learning” sayesinde “cnn” içeren modellerin öğrenmiş katsayılarını (“weights”) alıp başka bir cnn modelde kullanılması demek istemiş olabilir sanırım . Bu rnn içeren modellerde olmuyor (aslında çok iyi sonuç vermiyor)


#6

Sanırım Eray Bey kast ettiği , feed forward da her piksel için bir tane ağrırlık gerekirken , cnn de ise belirlediğimiz ağırlığı (3x3 filtre mesala ) bütün resmin pikselleri için kullanıyor oluşumuz . Bunada “parameter sharing” deniyor yanlış bilmiyorsam.