XVII Encontro de Modelagem Computacional V Encontro de Ciência e Tecnologia de Materiais Universidade Católica de Petrópolis (UCP), Petrópolis/RJ, Brasil. 15-17 out. 2014 SINCRONICIDADE EM GRUPOS NEURONAIS: UMA ABORDAGEM VIA ALGORITMOS GENÉTICOS Lucas Domingues Rocha de Oliveira – [email protected] Centro Federal de Educação Tecnológica, Av. Amazonas, 7675 - Nova Gameleira- CEP 30510-000 - Belo Horizonte, MG, Brasil Rogério M. Gomes – [email protected] Centro Federal de Educação Tecnológica, Av. Amazonas, 7675 - Nova Gameleira- CEP 30510-000 - Belo Horizonte, MG, Brasil Bruno A. Santos – [email protected] Centro Federal de Educação Tecnológica, Av. Amazonas, 7675 - Nova Gameleira- CEP 30510-000 - Belo Horizonte, MG, Brasil Henrique E. Borges – [email protected] Centro Federal de Educação Tecnológica, Av. Amazonas, 7675 - Nova Gameleira- CEP 30510-000 - Belo Horizonte, MG, Brasil Resumo. Baseado na Teoria de Seleção de Grupos Neuronais este artigo investiga a emergência de sincronicidade em um grupo neuronal composto por neurônios pulsantes de Izhikevich. Esse modelo é capaz de reproduzir diferentes padrões de disparo de neurônios presentes no córtex humano por meio do correto ajuste de seus parâmetros. Assim, esse trabalho descreve um método para se obter uma configuração de um grupo neuronal composto por três tipos de neurônios excitatórios e dois inibitórios, por meio de um algoritmo genético, a fim de permitir a auto-organização da rede neural. Experimentos computacionais foram realizados e os resultados obtidos mostraram ser possível a reprodução do comportamento síncrono de um grupo neuronal nas frequências de 3.3Hz, 4.4Hz, 5.5Hz e 6.6Hz. Além disso, foi possível observar a similaridade entre as configurações dos grupos neuronais resultantes com as encontradas no córtex humano. Palavras chave: neurônios pulsantes, algoritmo genético, grupos neuronais, teoria da seleção de grupos neuronais. 1. INTRODUÇÃO Várias teorias foram propostas na tentativa de explicar o comportamento do sistema nervoso e dos processos cognitivos. Entre essas teorias, a Teoria de Seleção de Grupos Neuronais (Theory of Neuronal Group Selection, TNGS) proposta por Eldeman (1987; 1993) (Clancey, 1997) destacou-se na tentativa de explicar a emergência de grupos neuronais no cérebro. Basicamente, a TNGS estabelece que um grupo neuronal é a unidade básica da maioria da região cortical do cérebro. O grupo neuronal não é formado por um único neurónio, mas por um conjunto de 50-10000 células neurais que disparam e oscilam em sincronia em uma frequência pré-definida. Cada um desses agrupamentos é um conjunto células neuronais fortemente acopladas que começam o seu processo de desenvolvimento na fase embrionária e continuam até o início da vida, i. e., eles são desenvolvidos durante a filogenia e são responsáveis pelas funções mais primitivas do cérebro. XVII Encontro de Modelagem Computacional V Encontro de Ciência e Tecnologia de Materiais Universidade Católica de Petrópolis (UCP), Petrópolis/RJ, Brasil. 15-17 out. 2014 Em geral, redes com modelos comportamentais mais reais são capazes de reproduzir os padrões de disparos de neurônios encontrados em muitas partes do cérebro e assim prover modelos com dinâmicas mais realísticas. Assim, Izhikevich (2003) desenvolveu um modelo que reproduz o comportamento dos neurônios com bastante precisão e com baixo custo computacional, permitindo a simulação de redes com um grande número de neurônios. Portanto, pelas características acima citadas, o modelo de Izhikevich foi escolhido para simular o grupo neuronal nesse trabalho. A Figura 1 mostra a diferença de comportamento entre uma rede em que os neurônios disparam de maneira assíncrona e uma rede em que os neurônios disparam de maneira síncrona. Figura 1 – Diferença entre comportamentos não síncronos (acima) e síncronos (abaixo). Izhikevich destacou outro fator importante que deve ser levado em consideração na simulação de redes auto-organizáveis. Ele propôs, baseado em Connors e Barry (1990), em Gray e Charles (1996) e em Gibson et al (1999), que os neurônios excitatórios presentes no córtex podem ser dividos em três tipos: Regular Spiking (RS), Intrinsically Bursting (IS) e Chattering (CH); e os inibitórios podem ser divididos em dois tipos principais: Fast Spiking (FS) e Low-Threshold Spiking (LTS). XVII Encontro de Modelagem Computacional V Encontro de Ciência e Tecnologia de Materiais Universidade Católica de Petrópolis (UCP), Petrópolis/RJ, Brasil. 15-17 out. 2014 Considerando que diferentes configurações de grupos neuronais podem ser geradas mudando-se o número de neurônios excitatórios e inibitórios presentes na rede, a emergência de sincronicidade numa rede auto-organizável de neurônios pulsantes foi obtida ajustando-se o número de cada um dos cinco tipos de neurônios por meio de um algoritmo genético. Experimentos computacionais foram realizados considerando uma rede com até 4000 neurônios contendo os cinco tipos citados acima. 2. A REDE O modelo de neurônio proposto por Izhikevich é uma simplificação do modelo de Hodkin-Huxley e pode ser descrito pelas seguintes equações diferenciais: com uma condição de reset auxiliar depois do pulso, dado por: { Em que é a corrente recebida de estímulos externos, de outros neurônios ou estruturas, é o potencial de membrana do neurônio, é a variável de recuperação de membrana, é a taxa de decaimento da variável , é a sensibilidade da variável para flutuações sub-limiares do potencial de membrana, é o valor de reset do potencial de membrana após o pulso, é o valor de reset da variável após o pulso. Esse modelo é computacionalmente factível (Izhikevich, 2004) e todos os tipos conhecidos de neurônios podem ser produzidos ajustando-se os parâmetros a, b, c e d (Izhikevich, 2007). A Tabela 1 mostra os valores dos parâmetros do modelo de Izhikevich para produzir os três tipos de neurônios excitatórios e os dois tipos de neurônios inibitórios usados nesse trabalho, enquanto a Fig. 2 mostra os padrões de disparo de cada um desses neurônios. Tabela 1 – Parâmetros do modelo de Izhikevich para cada tipo de neurônio. RS IB CH FS LTS 3. a 0,02 0,02 0,02 0,1 0,02 B 0,2 0,2 0,2 0,2 0,25 c -65 -55 -50 -65 -65 D 8 4 2 2 2 MATERIAIS E MÉTODOS Na simulação da rede neuronal desse trabalho sinapses, pesos sinápticos e correntes de simulação foram definidos estocasticamente, sendo possível a obtenção de padrões de disparo diferentes para uma configuração de rede. Dessa forma, uma desvantagem de se trabalhar com XVII Encontro de Modelagem Computacional V Encontro de Ciência e Tecnologia de Materiais Universidade Católica de Petrópolis (UCP), Petrópolis/RJ, Brasil. 15-17 out. 2014 redes de neurônios pulsantes é que, devido a saídas não contínuas computadas por esses neurônios, métodos de aprendizagem baseadas em gradientes ou aproximações hessianas não são possíveis (Burgsteiner, 2005). Consequentemente, métodos de otimização que requerem somente um modo de avaliação, como algoritmos evolucionários, funcionam melhor para esses tipos de problemas. Sendo assim, nesse trabalho, as simulações foram realizadas usando um algoritmo genético (Castro, 2006) que ajustou o número de cada um dos 5 tipos dos neurônios Izhikevich presentes no grupo neuronal, além da intensidade de corrente de estimulação da rede com o objetivo de produzir sua autorganização. Experimentos computacionais foram realizados considerando uma rede com até 4000 neurônios de todos os tipos, com os pesos sinápticos definidos de forma randômica no intervalo de [0, 0.5] para os neurônios excitatórios e [-1, 0] para neurônios inibitórios, cada cromossomo do algoritmo genético foi representado por um vetor real de 6 elementos como mostra a Fig. 3 em que N1 a N5 representam o número de neurônios que compõe o grupo neuronal de cada um dos 5 tipos utilizados de acordo com a equação 4. Figura 2 – Padrões de disparo de cada tipo de neurônio (Izhikevich, 2003). N1 N2 N3 N4 N5 N6 Figura 3 – Representação do cromossomo. De acordo com Izhikevich (2003), a porcentagem de neurônios no córtex humano é de, aproximadamente, 80% de neurônios excitatórios e 20% de inibitórios. Dessa forma, o intervalo de possíveis valores de Ni foi definido a fim de permitir uma maior quantidade de neurônios excitatórios na rede. Os valores estão indicados na Tabela 2 XVII Encontro de Modelagem Computacional V Encontro de Ciência e Tecnologia de Materiais Universidade Católica de Petrópolis (UCP), Petrópolis/RJ, Brasil. 15-17 out. 2014 Tabela 2 – Intervalo de possíveis valores dos parâmetros Ni. Variáveis Intervalo N1 N2 N3 N4 N5 [0, 1] [0, 1] [0, 1] [0, 0.5] [0, 0.5] Tipo de Neurônio Associado IB RS CH FS LTS O último parâmetro do cromossomo (N6, veja Fig. 3) é um fator, no intervalo de [0, 5] (valores maiores que 5 saturam a rede), que é multiplicado pela corrente com o objetivo de aumentar sua intensidade. Levando em consideração os comportamentos da rede mostrados na Fig.1, uma função objetivo foi definida com o fim de estabelecer a sincronicidade nos grupos neuronais. Como a porcentagem de neurônios disparando no tempo de uma rede síncrona aproxima de uma onda quadrada, o ciclo de trabalho e frequência dessa onda dependerão dos tempos de disparos dos neurônios e a sua altura dependerá da quantidade de neurônios que disparam num certo momento. Então, a função objetivo usada nesse trabalho medirá a similaridade de dois sinais usando a função correlação cruzada com lag 0 definida como: [ ] em que é o operador de valor esperado. Se a correlação cruzada é calculada com τ = 0 (lag 0), a equação 5 provê uma medida de similaridade entre x e y. Portanto a função objetivo definida nesse trabalho é a correlação cruzada entre uma onda quadrada de referência e a porcentagem de neurônios de um grupo que disparam no tempo. Dois parâmetros da onda quadrada precisaram ser definimos para realização dos experimentos: ciclo de trabalho e frequência. O menor ciclo de trabalho obtido com esse modelo foi de 30%, sendo, portanto, definido para a realização dos experimentos. O limite inferior e superior de frequência que o modelo foi capaz de gerar foi averiguado com o objetivo de se obter a maior extensão possível de frequências. Tendo isso em mente, os valores de frequência escolhidos para os experimentos foram: 3.3Hz, 4.4Hz, 5.5Hz e 6.6Hz. A função correlação cruzada, por sua vez, foi normalizada sendo que valores próximos a 1 indicam forte similaridade. Os valores dos parâmetros do algoritmo genético podem ser vistos na Tabela 3. Tabela 3 - Valores dos parâmetros do algoritmo genético. Parâmetros Número de variáveis Número de indivíduos Número de gerações Taxa de seleção Taxa de cruzamento Taxa de mutação Valores 5 50 20 98% 70% 0,08% Métodos Roleta Recombinação Intermediária XVII Encontro de Modelagem Computacional V Encontro de Ciência e Tecnologia de Materiais Universidade Católica de Petrópolis (UCP), Petrópolis/RJ, Brasil. 15-17 out. 2014 4. RESULTADOS Nesse trabalho a configuração de um grupo neuronal composto por 5 tipos de neurônios pulsantes de Izhikevich foi determinada por um algoritmo genético com o objetivo de permitir a auto-organização da rede. Foram realizados 4 experimentos computacionais, um para cada frequência sintonizada. Tabela 4 mostra a melhor configuração de cada experimento. Os resultados mostraram que foi possível encontrar a quantidade apropriada dos cinco tipos de neurônios para as frequências de 3.3Hz, 4.4Hz, 5.5Hz e 6.6Hz. O número dos neurônios das redes variou de cerca de 1500 a 2500 neurônios, a porcentagem de neurônios excitatórios foi de 90% e dos inibitórios foi de 10%. A maioria dos neurônios excitatórios foi do tipo IS e RS e os inibitórios foram igualmente distribuídos entre os dois tipos escolhidos. As Figuras 4, 5, 6 e 7 mostram o comportamento da rede após a sintonia realizada pelo algoritmo genético. É possível observar que em todos os casos a rede apresentou um comportamento síncrono. Figura 4 – Grupo neuronal com frequência de 3.3Hz. Figura 5 – Grupo neuronal com frequência de 4.4Hz. XVII Encontro de Modelagem Computacional V Encontro de Ciência e Tecnologia de Materiais Universidade Católica de Petrópolis (UCP), Petrópolis/RJ, Brasil. 15-17 out. 2014 Figura 6 – Grupo neuronal com frequência de 5.5Hz. Figura 7 – Grupo neuronal com frequência de 6.6Hz. Tabela 4 – Indivíduos mais bem avaliados no algoritmo genético Frequência (Hz) 3.3 4.4 5.5 6.6 IB Número de neurônios de cada tipo RS CH FS LTS Total 656 515 424 706 723 265 320 273 2485 1816 1653 1559 776 903 633 408 75 40 201 74 255 93 75 98 Fator de Corrente 1,06 3,39 2,07 3,26 XVII Encontro de Modelagem Computacional V Encontro de Ciência e Tecnologia de Materiais Universidade Católica de Petrópolis (UCP), Petrópolis/RJ, Brasil. 15-17 out. 2014 5. CONCLUSÃO Nesse estudo, a composição de uma rede de neurônios pulsantes foi ajustada por um algoritmo genético para produzir grupos neuronais com comportamento síncrono. A composição da rede consistiu de neurônios pulsantes de Izhikevich ajustados para produzir 5 tipos diferentes de padrões de disparo. Nossos experimentos mostraram que é possível construir grupos neuronais com um modelo de neurônio com plausibilidade biológica e que rede pode modelar a dinâmica do córtex de maneira mais realística, pois os padrões de disparos produzidos pelos modelos de neurônios são os mesmos vistos nos neurônios reais. Portanto, nosso estudo pode resultar num ganho importante para o entendimento tanto da formação dos grupos quanto da sua dinâmica de funcionamento. Esperamos que as simulações apresentadas nesse trabalho possam ser usadas no projeto de outros experimentos numéricos, conduzindo a uma melhor compreensão da dinâmica das redes neuronais artificiais com plausibilidade biológica. REFERÊNCIAS Burgsteiner H. (2005), “Training networks of biological realistic spiking neurons for real-time robot control”, 9th international conference on engineering applications of neural networks, Lille, France, pp 129–136 Castro, Leandro Nunes de. (2006), Fundamentals of natural computing: basic concepts, algorithms and applications. Taylor & Francis Group, Boca Raton. Clancey W. (1997) Situated Cognition: On Human Knowledge and Computer Representations. Cambridge University Press, New York. Connors, Barry W., Gutnick, Michael J. (1990), “Intrinsic fire patterns of diverse neocortical neurons”. TINS. vol. 13, no. 3, p. 99–104 Edelman, G. M. (1987), Neural Darwinism: The Theory of Neuronal Group Selection. Basic Books, New York Edelman, G. M. (1993), “Neural Darwinism: selection and reentrant signaling in higher brain function”, Neuron, vol. 10, no. 2, p. 115–125 Gibson, Jay R., Beierlein, Michael, Connors, Barry W. (1999), “Two networks of electrically coupled inhibitory neurons in neocortex”, Nature. vol. 402, no 4, p. 75-79 Gray, Charles M. (1996), “Chattering Cells: Superficial Pyramidal Neurons Contributing to the Generation of Synchronous Oscillations in the Visual Cortex”, Science. vol. 274, p. 109-113 Izhikevich E. M. (2003), “Simple model of spiking neurons”, IEEE Transactions on Neural Networks. vol. 14, no. 6, p. 1569–1572 Izhikevich, E. M. (2004) “Which Model to Use for Cortical Spiking Neurons?”, IEEE Transactions on Neural Networks, vol. 15, no. 5, p. 1063-1070 (2004) Izhikevich E. M. (2007), “ Dynamical Systems in Neuroscience: The Geometry of Excitability and Bursting”. MIT Press, London . XVII Encontro de Modelagem Computacional V Encontro de Ciência e Tecnologia de Materiais Universidade Católica de Petrópolis (UCP), Petrópolis/RJ, Brasil. 15-17 out. 2014 Synchronicity in Neuronal Groups: a genetic algorithm approach. Abstract. Based on the Theory of Neuronal Group Selection (TNGS), we have investigated the emergence of synchronicity in a neuronal group composed of Izhikevich spiking neurons. The Izhikevich neuron model can reproduce different firing patterns present in the human cortex through the appropriate selection of the model parameters. From the several types of neurons found in the human cortex, five can be highlighted and were used in this paper. Thus, this paper describes a method of finding the configuration (the percentage of each neuron type and the intensity of the stimulus of a neuronal group) through genetic algorithm in order to enable the self-organization of the neural network. Computational experiments were performed and the results obtained showed that was possible to generate synchronous behavior in the frequencies of 3.3Hz, 4.4 Hz, 5.5Hz, and 6.6Hz. Furthermore, it was possible to observe the similarity between the resulting configurations of neuronal groups with those found in the human cortex. Keywords: spiking neurons, genetic algorithm, neuronal groups, theory of neuronal group selection.