UPE – Caruaru – Sistemas de Informação
Disciplina: Redes Neurais
Prof.: Paulemir G. Campos
Introdução a
Redes Neurais
(Parte 1)
11/5/2015
RN - Prof. Paulemir Campos
1
Roteiro da Aula

O que são Redes Neurais;
História das Redes Neurais;
Inspiração Biológica.

Referências.


11/5/2015
RN - Prof. Paulemir Campos
2
O que são Redes Neurais
11/5/2015
RN - Prof. Paulemir Campos
3
Definições

Redes Neurais, ou melhor, Redes
Neurais Artificiais (RNAs) são modelos
de computação com propriedades
particulares:



11/5/2015
Capacidade de se adaptar ou aprender;
Generalizar;
Agrupar ou organizar dados.
RN - Prof. Paulemir Campos
4
Definições

RNAs:


estruturas distribuídas formadas por
grande número de unidades de
processamento conectadas entre si;
Multi-disciplinaridade:

11/5/2015
Ciência da Computação, Matemática,
Física, Engenharias, Psicologia, Biologia,
Lingüística, Filosofia, etc.
RN - Prof. Paulemir Campos
5
Definições

Modelos inspirados no cérebro humano:


Compostas por várias unidades de
processamento (“neurônios” ou nodos)
interligadas por um grande número de
conexões (“sinapses” ou pesos).
Eficientes onde métodos tradicionais
têm se mostrado inadequados.
11/5/2015
RN - Prof. Paulemir Campos
6
Exemplo de RNA
11/5/2015
RN - Prof. Paulemir Campos
7
Principais Características





Aprendem através de exemplos;
Adaptabilidade;
Capacidade de generalização;
Tolerância a falhas;
Implementação rápida.
11/5/2015
RN - Prof. Paulemir Campos
8
História das Redes Neurais
11/5/2015
RN - Prof. Paulemir Campos
9
Introdução

Inter-relação entre



Investigação do comportamento e
estrutura do sistema nervoso através de
experimentação e modelagem biológica;
Desenvolvimento de modelos matemáticos
e suas aplicações para a solução de vários
problemas práticos.
Simulação e implementação destes
modelos.
11/5/2015
RN - Prof. Paulemir Campos
10
A Origem

(384-322 a. C.) Aristóteles escreveu:



“De todos os animais, o homem,
proporcionalmente, tem o maior cérebro.”
(1700) Descartes acreditava que mente
e cérebro eram entidades separadas;
(1911) Ramon e Cajal introduzem a
idéia de neurônios como estruturas
básicas do cérebro.
11/5/2015
RN - Prof. Paulemir Campos
11
A Década de 1940: O Começo

(1943) McCulloch & Pitts:


Provam, teoricamente, que qualquer função lógica
pode ser implementada utilizando unidades de
soma ponderada e threshold (limiar);
(1949) Hebb desenvolve algoritmo para
treinar RNA (aprendizado Hebbiano):

11/5/2015
Se dois neurônios estão simultaneamente ativos, a
conexão entre eles deve ser reforçada.
RN - Prof. Paulemir Campos
12
1950-1960: Anos de Euforia

(1958) Von Neumann mostra interesse
em modelagem do cérebro (RNA):

“The Computer and the Brain”, Yale
University Press

(1959) Rosenblatt implementa primeira
RNA, a rede Perceptron:


11/5/2015
Ajuste iterativo de pesos;
Prova teorema da convergência.
RN - Prof. Paulemir Campos
13
Década de 1970: Pouca Atividade

(1969) Minsky & Papert analisam
Perceptron e mostram suas limitações:


11/5/2015
Não poderiam aprender a resolver
problemas simples como o OU-exclusivo;
Causou grande repercussão.
RN - Prof. Paulemir Campos
14
Década de 1970: Pouca Atividade



(1971) Aleksander propõe Redes
Booleanas;
(1972) Kohonen e Anderson trabalham
com RNA Associativas;
(1975) Grossberg desenvolve a Teoria
da Ressonância Adaptiva (redes ART).
11/5/2015
RN - Prof. Paulemir Campos
15
Década de 1980: A Segunda Onda


(1982) Hopfield mostra que Redes
Neurais podem ser tratadas como
sistemas dinâmicos;
(1986) Hinton, Rumelhart e Williams,
propõem algoritmo de aprendizagem
para redes multi-camadas:

Parallel Distribuited Processing

Paul Werbos (1974)
11/5/2015
RN - Prof. Paulemir Campos
16
Inspiração Biológica
11/5/2015
RN - Prof. Paulemir Campos
17
Introdução


O cérebro humano contém cerca de
1011 neurônios;
Cada neurônio processa e se comunica
com milhares de outros neurônios
continuamente e em paralelo.
11/5/2015
RN - Prof. Paulemir Campos
18
Introdução

O cérebro humano é responsável por:





11/5/2015
Emoção;
Pensamento;
Percepção;
Cognição;
Execução de funções sensoriomotoras e
autônomas.
RN - Prof. Paulemir Campos
19
Introdução

Por sua vez, a rede de neurônios do
cérebro é capaz de:



11/5/2015
Reconhecer padrões e relacioná-los;
Usar e armazenar conhecimento por
experiência;
E, interpretar observações.
RN - Prof. Paulemir Campos
20
Introdução


Contudo, o funcionamento das redes
biológicas ainda não foi totalmente
desvendado pelo homem;
Ou seja, não se sabe ao certo a forma
como as funções cerebrais são
realizadas.
11/5/2015
RN - Prof. Paulemir Campos
21
Introdução


Por outro lado, a estrutura básica das
redes de neurônios naturais é
conhecida;
As RNAs baseiam-se justamente nesta
estrutura fisiológica.
11/5/2015
RN - Prof. Paulemir Campos
22
Neurônios Biológicos

Célula fundamental do cérebro humano;

Dividem-se em três seções:



11/5/2015
Corpo Celular;
Dendritos;
Axônio.
RN - Prof. Paulemir Campos
23
Neurônios Biológicos

Corpo Celular


11/5/2015
Mede apenas alguns milésimos de
milímetros;
Local onde a informação é processada e
onde novos impulsos são gerados.
RN - Prof. Paulemir Campos
24
Neurônios Biológicos

Dendritos


11/5/2015
Possuem poucos milímetros de
comprimento;
Recebem as informações (ou impulsos
nervosos) oriundas de outros neurônios e
as conduz até o corpo celular.
RN - Prof. Paulemir Campos
25
Neurônios Biológicos

Axônio



É mais longo que os dendritos e, em geral,
tem calibre uniforme;
Transmite os impulsos nervosos a outros
neurônios.
O ponto de contato entre a terminação
axônica de um neurônio com o dendrito
de outro é chamado de sinapse.
11/5/2015
RN - Prof. Paulemir Campos
26
Neurônios Biológicos


Os neurônios se unem funcionalmente
pelas sinapses, formando redes neurais.
As sinapses:


11/5/2015
Funcionam como válvulas;
Controlam a transmissão de impulsos, ou
seja, o fluxo de informação entre os nodos
da rede neural.
RN - Prof. Paulemir Campos
27
Neurônio Biológico
Estrutura Microscópica
Fonte: Adaptado de http://gballone.sites.uol.com.br/atlas/neuron.htm
11/5/2015
RN - Prof. Paulemir Campos
28
Neurônio Biológico
Ligações Sinápticas
Fonte: Adaptado de http://gballone.sites.uol.com.br/atlas/neuron.htm
11/5/2015
RN - Prof. Paulemir Campos
29
Neurônios Artificiais

Modelo MCP




11/5/2015
Proposto por McCulloch e Pitts (1943);
É uma simplificação do neurônio biológico;
Possui n terminais de entrada X1, X2, ...,
Xn (representando os dendritos);
Apenas um terminal de saída Y
(representando o axônio);
RN - Prof. Paulemir Campos
30
Neurônios Artificiais

Modelo MCP (Continuação)

11/5/2015
E, os terminais de entrada do neurônio têm
pesos acoplados W1, W2, ..., Wn
emulando o comportamento das sinapses,
cujos valores podem ser positivos ou
negativo.
RN - Prof. Paulemir Campos
31
Neurônios Artificiais

Um nodo MCP tem sua saída ativa
(Y=1) quando:
n
xw 
i
i
i 1

onde:
n – número de entrada; Wi – peso associado à
entrada Xi; θ – é o limiar (threshold) do neurônio;
Σ XiWi – soma ponderada das entradas do
neurônio.
11/5/2015
RN - Prof. Paulemir Campos
32
Neurônio Artificial
Modelo de McCulloch e Pitts
Fonte: BRAGA et. al., 2000, pág. 9
11/5/2015
RN - Prof. Paulemir Campos
33
Referências


Braga, A. P.; Ludermir, T. B. e
Carvalho, A. C. P. L. F. Redes Neurais
Artificiais: Teoria e Aplicações.
Editora LTC, 2000.
Notas de aulas da Profa. Teresa B.
Ludermir e do Prof. Aluízio Araújo,
ambos do CIn/UFPE.
11/5/2015
RN - Prof. Paulemir Campos
34