Hva er forskjellen mellom konvolusjonelt nevralt nettverk (CNN) og rekursivt nevralt nettverk (ReNN)?


Svar 1:

Konvolusjonelle nevrale nettverk (CNN) og rekursive nevrale nettverk er ganske forskjellige.

Convolutional Layer er ganske enkelt den involverte operatøren (noen kaller det filter) påført over et 2d / 3d-lag.

operatøren kalles "glidende punktprodukt" eller "tverrkorrelasjon".

Dette er en fin måte å se hvordan disse filtrene fungerer

Les denne siden hvis du vil vite hvordan polstring, skritt og dilatasjon fungerer.

Bortsett fra dette er det det maksimale bassenglaget. Matematisk refererer begrepet "pooling" til dimensjonalitetsreduksjon i sammenheng med Convolutional Neural Networks?

Rekursive Neural Networks er en trebasert arkitektur. Siden det mest brukes til å behandle sekvensene for ord, forstås det best i sammenheng med tekstbehandling. La oss si at du allerede har analysertreet for setningene dine.

((rotta) (spiste (ost)))

I eksemplet over kan et enkelt Tree Long Short-Term Memory (LSTM) ta ordvektorer for enkeltord og kombinere dem ved å bruke delte vekter (delt over nettverket) for å generere overordnede noder. Eventuell kombinert vektor kan brukes til å gjøre klassifisering.

Håper dette hjelper. Dette er tekniske spørsmål, og jeg har alltid vanskelig for å sette ord på det.


Svar 2:

Et sammensveiset nettverkslag (med kjernestørrelse 2) ville snu

NN

innspill til

N1N-1

utganger. Hver utgang

ii

tar innspill

ii

og

i+1i+1

fra inngangslagene.

Et rekursivt nettverk vil gjøre hele utgangen til en enkelt utgang ved å kombinere de to første inngangene og deretter kombinere den utgangen med den tredje inngangen, og så videre til en enkelt utgang er igjen.


Svar 3:

Et sammensveiset nettverkslag (med kjernestørrelse 2) ville snu

NN

innspill til

N1N-1

utganger. Hver utgang

ii

tar innspill

ii

og

i+1i+1

fra inngangslagene.

Et rekursivt nettverk vil gjøre hele utgangen til en enkelt utgang ved å kombinere de to første inngangene og deretter kombinere den utgangen med den tredje inngangen, og så videre til en enkelt utgang er igjen.