Arquitetura da rede
A arquitetura de uma rede neural é muito importante, pois está ligado diretamente com o algoritmo de aprendizagem utilizado em seu treinamento. Existem várias arquiteturas possíveis para se modelar uma rede neural.
Uma rede neural organizada em camadas é caracterizada por ter uma camada de entrada, que não realiza processamento, e uma camada de saída, podendo ter zero ou mais camadas ocultas.
Uma possível arquitetura de rede neural são as redes neurais de camada única alimentadas adiante. Neste tipo de rede os nós de entrada se ligam com os nós de saída, mas não vice-versa, ou seja a rede é estritamente alimentada adiante.
Também é possível modelar redes recorrentes, cuja característica é ter laços de realimentação. Por exemplo, uma rede recorrente pode ter apenas uma camada de neurônios com cada neurônio alimentando seu sinal de saída de volta para as entradas de todos os outros neurônios.
E têm-se ainda redes alimentadas diretamente com múltiplas camadas. Esta classe de rede neural alimentada adiante se distingue pela existência de uma ou mais camadas ocultas, cujos nós, que executam processamento, são chamados de neurônios ocultos. Estes nós ocultos possibilitam que a rede seja capaz de extrair estatísticas de ordem elevada.
Nesta arquitetura, os nós de entrada se conectam somente aos nós da primeira camada oculta, que por sua vez se conectam aos nós da segunda camada oculta e assim por diante, até que os nós da última camada oculta se conectam a camada de saída.
A arquitetura de uma rede de múltiplas camadas alimentada adiante é mostrado na Figura abaixo:
Esta rede é dita totalmente conectada, pois cada um dos nós de uma camada da rede está ligado com todos os nós da camada seguinte da rede. Caso isso não ocorra, a rede é dita parcialmente conectada.