Redes Neurais Artificiais Prof. Júlio Cesar Nievola PPGIA – PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais • • • • • • Sistemas Neurais Artificiais Conexionismo Sistemas Adaptativos Neurocomputadores Sistemas Massivamente Paralelos Distribuídos Redes Neurais (Artificiais) Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 2 Redes Neurais Artificiais • Reunião no Dartmouth College • Paradigmas básicos: • • Simbólico Conexionista • Perceptron (1 camada de pesos ajustáveis) • Descrédito a partir do final da década 60 • Impulso a partir da década de 80 Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 3 Computador x cérebro Velocidade de processamento CPU: Clock (Cray 3) 4.2ms Neural: disparo neurônio ms Ordem de processamento CPU: serial Neural: paralelo Abundância e complexidade: CPU: um ou poucos processadores Neural: 1011-1014 neurônios; 103-104 conexões/neurônio Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 4 Computador x cérebro Armazenamento do conhecimento CPU: estritamente relocável Neural: adaptativo Tolerância a falhas CPU: mínima, senão inexistente Neural: boa Controle do processamento CPU: controle autocrático, centralizado Neural: controle anárquico, distribuído Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 5 Elemento de base • Neurônio simplificado • Componentes: • Axônio • Dendritos • Sinapses Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 6 Forma Matemática Simplificada • Dendritos: entradas • Corpo celular: • Soma ponderada • Função não-linear • Axônio: distribuição aos neurônios Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 7 Terminologia • Elementos de Processamento: • • • Nós Memória de curto prazo População • Ligações entre elementos de processamento • • • Peso (Força de) interconexão Memória de longo prazo Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 8 Aprendizagem • Supervisionada • Não-supervisionada • Com reforço Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 9 Etapas de Projeto • Definir o problema • Escolher informação • • Obter dados Criar arquivos rede • Treinar a rede • Testar a rede • Uso em campo Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 10 Topologias: Construtiva Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 11 Topologias: Hopfield Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 12 Topologias: Recorrente Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 13 Topologias: Não-Supervisionada Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 14 Classificação das RNAs Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 15 Sub- e sobre-ajuste do polinômio Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 16 Extração de Regras • É a tarefa de converter modelos de redes neurais treinadas em representações mais facilmente compreensíveis • Surgiu em função de • • Data Mining boom Interesse em métodos como boosting, bagging e error-correcting output codes Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 17 Características dos Métodos de Extração de Regras • Compreensibilidade • Quanto são humanamente compreensíveis • Fidelidade • Quanto modela a RNA da qual foi extraída • Precisão • Previsão precisa sobre exemplos não vistos • Escalabilidade • Grandes espaços de entrada, unidades e conexões • Generalidade • Treinamento especial e/ou restrições Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 18 Implementações • Características-chave: • • • Computacionalmente intensivas Massivamente paralelas Grandes requisitos de memória • Possibilidades de implementação • • • Computadores convencionais Computadores dedicados Implementação em hardware específico Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 19 Redes Neurais Artificiais • Razões para utilização • Paralelismo • Capacidade de adaptação • Memória distribuída • Capacidade de generalização • Facilidade de construção Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 20 Redes Neurais Artificiais • Limites de utilização • Simulação em máquinas seqüenciais • A passagem da simulação para a implementação em hardware está no início • O desempenho é dependente da qualidade e da pertinência do prétratamento efetuado Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 21 Redes Neurais Artificiais • Características de uma boa aplicação • • • • Regras de resolução do problema desconhecidas ou difíceis de formalizar Dispõe-se de um grande conjunto de exemplos e suas soluções Necessita-se de grande rapidez na resolução do problema, p.ex. Tempo real Não existem soluções tecnológicas atuais Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 22 Redes Neurais Artificiais • Domínios de aplicação privilegiados • • • • • • Reconhecimento de formas Tratamento de sinal Visão, fala Previsão e modelagem Auxílio à decisão Robótica Prof. Júlio Cesar Nievola PPGIA - PUCPR Especialização em Inteligência Computacional Redes Neurais Artificiais 23