Arquitetura
•
•
•
•
•
RNN
BRNN
IEBRNN
Aprendizagem supervisionada seqüencial
Aprendizagem supervisionada seqüencial
enriquecida com um grafo de interações
• A arquitetura
• A aprendizagem
RNN – Rede Neural Recursiva
ou Recorrente
• Redes neurais feed-forward na predição de
estruturas secundárias
• A necessidade de uma máquina que consiga
aprender seqüências
• Generalização de redes feed-forward
capazes de processar dados estruturais
RNN – Arquitetura
• Um RNN pode ser desmembrada em várias
feed-forwards compartilhando os mesmos
pesos
• Pode ser usada todas as informações
anterior a entrada t
• Para a predição seria bom usar as
informações que surgiram mais tarde
(futuras)
BRNN – Rede Neural Recursiva
Bidirecional
• Resolve a limitação da RNN, utiliza tanto as
informações passadas quanto as futuras
BRNN
• Podemos definir de forma recursiva as
equações que representam os estados:
– F(t) depende de F(t-1)
– B(t) depende de B(t+1)
– O(t) depende de F(t) e B(t)
• Resumindo
– A saída de x(t) depende de x(1)... X(N)
BRNN
BRNN
BRNN – Limitações
• Longas dependências
IEBRNN – BRNN Enriquecida
com interações
• Foi acrescentado a BRNN um grafo de
interações,
Bibliografia
• [1] Prediction of Structure and Function of Proteins and Ligands By
Means of Neural and Kernel Methods for Strutured Data.
– Alessio Ceroni. Dissertation submitted in partial fulfillment of the
requirements for the degree of doctor of Philosophy in computer Science
and Control Engineering. Università Degli Studi di Firenze. 2004-2005.
• [2] Improved prediction of the number of residue contacts in proteins
by recurrent neural networks
– Gianluca Pollastri, Pierre Baldi, Pietro Fariselli e Rita Casadio.
Bionformatics. March 21, 2001.
• [3] Bidirectional Recurrent Neural Networks. Mike Schuster and
Kuldip K. Paliwal, Member, IEEE. IEEE Transactions on Signal
Processing, Vol 45, no. 11. November 1997.
• [4] http://www.faqs.org/faqs/ai-faq/neural-nets/part2/section-12.html
• [5] Exploiting the past and the future in protein secondary structure
prediction. Pierre aldi, Soren Brunak, Paolo Frasconi, Giovanni Soda
and Gianluca Pollastri. Bioinformatics, vol 15, Nov 1999.