http://dx.doi.org/10.5540/DINCON.2011.001.1.0102
399
SINCRONISMO ENTRE REDES NEURAIS COM TOPOLOGIA
DE ACOPLAMENTO DO TIPO NEWMAN-WATTS
Alex Martins 1, Luiz Henrique Alves Monteiro 2
1
Escola de Engenharia, Universidade Presbiteriana Mackenzie, São Paulo, SP, Brasil, [email protected]
2
Escola de Engenharia, Universidade Presbiteriana Mackenzie, São Paulo, SP, Brasil e
Escola Politécnica, Universidade de São Paulo, São Paulo, SP, Brasil, [email protected], [email protected]
Resumo: Usam-se autômatos celulares e grafos aleatórios
para modelar redes neurais. Com esse modelo, investiga-se a
ocorrência de sincronização entre duas redes neurais ligadas
por conexões aleatórias, sendo uma delas periodicamente
estimulada. Simulações numéricas revelam que pode ocorrer
sincronismo entre essas redes, tipicamente, mas não exclusivamente, no mesmo período da entrada periódica.
Palavras-Chave:
sincronização.
Neuro-dinâmica,
redes
complexas,
1. INTRODUÇÃO
Sincronismo parece ser fundamental para a execução de
funções cognitivas e sensoriais que necessitam da interação
coordenada de neurônios distribuídos por diversas áreas do
cérebro (e.g. [1]). Por exemplo, trabalhos experimentais
associam a sincronização de disparos neuronais no córtex
visual com a segmentação e a compreensão de imagens por
mamíferos (e.g. [2]). Níveis anormais de sincronismo,
entretanto, estão relacionados a desordens neurológicas,
como autismo, epilepsia e esquizofrenia (e.g. [3]). Portanto,
estudos sobre sincronismo em redes neurais podem ajudar a
compreender tanto o funcionamento normal quanto o
patológico do cérebro. Em geral, os estudos teóricos lidam
com uma única rede e usam equações diferenciais (e.g. [4]),
equações de diferenças (e.g. [5]) ou autômatos celulares
(e.g. [6]) para representar a atividade dos neurônios.
3. MÉTODOS: O MODELO E AS SIMULAÇÕES
3.1. A topologia de acoplamento
Parte-se de um grafo retangular regular, não direcionado,
não ponderado, de tamanho m×n (m linhas e n colunas),
sendo n par. Cada nó desse grafo representa um neurônio,
que está conectado àqueles localizados a norte, sul, leste e
oeste. Os nós situados nas bordas possuem menos vizinhos.
São retiradas, então, as ligações entre os nós das colunas n/2
e n/2+1, de forma a se ter duas partes iguais com m linhas e
n/2 colunas. Em cada parte, inclui-se aleatoriamente um
percentual q de ligações, conectando os nós da mesma parte.
Desse modo, são construídas duas redes complexas
(aleatórias) com ligações predominante locais. São também
inseridas ligações entre as redes, segundo o mesmo
porcentual q. A rede complexa (e.g. [9]) assim obtida é do
tipo Newman-Watts (e.g. [10]).
A Figura 1 ilustra o caso com m=10, n=20 e q=5%.
Note que, do reticulado regular original, formam-se dois de
dimensão 10×10, ao se excluírem as ligações entre as
colunas 10 e 11. Como há 180 ligações regulares em cada
parte, foram inseridas 9 aleatórias conectando os neurônios
na primeira parte, e mais 9 na segunda parte (essas ligações
são representadas por linhas azuis na Figura 1). Esse mesmo
número de ligações foi acrescentado ligando as duas partes
(ligações representadas por linhas verdes na Figura 1).
Todas as ligações entre os N=m×n neurônios (as bolinhas
pretas da Figura 1) são excitatórias e têm peso unitário.
2. PROPÓSITO
Aqui, investiga-se, via simulação numérica, a ocorrência
de sincronismo entre duas redes neurais, sendo que uma
delas recebe um estímulo periódico. A pretensão é entender
as relações observadas entre as frequências de oscilação de
diferentes estruturas neurais acopladas, como, por exemplo,
entre a retina, o núcleo geniculado lateral e o córtex visual
de mamíferos (e.g. [7,8]).
Este texto está assim organizado. Na seção 3,
descrevem-se a topologia de acoplamento e as regras de
transição de estados dos neurônios, define-se sincronismo e
mencionam-se detalhes das simulações. Na seção 4,
apresentam-se os resultados obtidos numericamente. Na
seção 5, discute-se a relevância de tais resultados.
Figura 1. Parte-se de um grafo regular (ligações em preto) com m=10 e
n=20, e acrescentam-se q=5% de conexões aleatórias em cada parte
(ligações em azul) e entre as partes (ligações em verde).
400
Sincronismo entre redes neurais com topologia de acoplamento do tipo Newman-Watts
Alex Martins e Luiz Henrique Alves Monteiro
3.2. Regras de transição de estados
Os neurônios sofrem a influência dos vizinhos e, eventualmente, de um estímulo de origem externa. A cada passo
de tempo, cada neurônio está em um de três estados: ou em
repouso, ou disparando, ou refratário. As regras de transição
entre esses estados são as seguintes:
 um neurônio em repouso no instante t dispara em t+1
se recebe estímulos cuja soma é igual ou maior que
o limiar (de valor unitário para todos os neurônios);
 um neurônio que disparou em t, mas cuja a entrada é
igual ou maior que o limiar, continua disparando
em t+1; caso contrário, vai para o estado refratário;
 um neurônio que disparou em t e em t+1 passa para o
estado refratário em t+2, independentemente da
intensidade do estímulo recebido;
 um neurônio no estado refratário em t vai para o
repouso em t+1.
Observe que essas regras subentendem a existência de uma
rede oculta de sinapses inibitórias, que forçaria os neurônios
que dispararam por dois instantes consecutivos a irem,
obrigatoriamente, para uma situação de não disparo no
instante seguinte. Assim, inibição, uma característica
fundamental de redes neurais biológicas, é levada em conta,
indiretamente, nas regras de transição de estados.
3.3. Definição de sincronismo
Diz-se que uma parte do reticulado está sincronizada
com a outra parte se a quantidade de células no estado ativo
dessa parte oscila com o mesmo período com que oscila a
quantidade de células no estado ativo da outra parte. Essas
partes, entretanto, podem oscilar num período que é igual,
múltiplo ou submúltiplo do estímulo de origem externa.
Com esse modelo de rede neural baseado em autômato
celular com conexões preferencialmente locais, investiga-se
a ocorrência de sincronismo, submetendo a rede a estímulos
de diferentes períodos.
Um neurônio biológico, após receber um estímulo que
iguala ou supera seu limiar de disparo, volta para o estado
de repouso após poucos milissegundos (e.g. [11]). De
acordo as nossas regras de transição, isso ocorre após 3 ou 4
passos de tempo. Consequentemente, supõe-se que um passo
de tempo da simulação equivale a um milissegundo de
tempo real. O intervalo de tempo de cada simulação é de
100 passos de tempo. Assim, está se procurando identificar
situações em que as partes se sincronizam “rapidamente”
(ou seja, após algumas dezenas de milissegundos), como
acontece nos experimentos com neurônios biológicos
conduzidos em laboratórios (e.g. [1,7,8]).
4. RESULTADOS DAS SIMULAÇÕES
Os resultados estão resumidos em duas tabelas. Nessas
tabelas, a primeira coluna indica o período do estímulo
aplicado à primeira parte; a segunda coluna refere-se aos
casos em que as duas partes oscilam com período igual ao
da entrada; a terceira coluna expressa a quantidade de casos
em que ambas as partes oscilam com um período que é um
múltiplo do período da entrada (tipicamente, o dobro ou o
triplo), a quarta coluna dá os casos em que esse sincronismo
ocorre num período que é um submúltiplo do período da
entrada (nas nossas simulações, o único submúltiplo
encontrado foi 1/3), e a quinta coluna indica a porcentagem
de casos em que não ocorre sincronismo entre a rede e o
estímulo, no intervalo de tempo observado.
A Tabela 1 apresenta os resultados das 1200 simulações
para m=10, n/2=10 e q=5%. Os resultados das 1200
simulações para m=10, n/2=30 e q=5% estão mostrados na
Tabela 2.
x
100
80
60
40
3.4. Sobre as simulações
Nas simulações executadas, todos os neurônios da rede
estão, inicialmente, em repouso. Então, estimula-se a rede
do seguinte modo. Toma-se um neurônio da primeira coluna
da primeira parte (àquela parte à esquerda na Figura 1) e
periodicamente, leva-se essa célula para o estado ativo. Tal
célula estimula seus vizinhos, gerando atividade na primeira
parte, que se propaga para a segunda parte. Considera-se o
número total de células ativas em cada parte como a medida
de atividade. Calculam-se os períodos de oscilação de cada
uma das partes a partir da quantidade x de células ativas.
Foram geradas 20 redes com cada parte tendo dimensão
10×10 e outras 20 redes com cada parte de dimensão
30×10. Simulações foram feitas considerando estímulos de
períodos 3, 6, 9, 12, 15 e 18 passos de tempo. Por exemplo,
um estímulo de período 3 significa que o neurônio de
entrada é levado ao estado ativo a cada 3 passos de tempo. O
comportamento de cada rede foi avaliado para cada estímulo
periódico e considerando cada um dos 10 neurônios da
primeira coluna como aquele a ser estimulado. Portanto, no
total, realizaram-se 2400 simulações (40 redes × 6 períodos
× 10 neurônios de entrada).
20
20
40
60
80
100
t
x
140
120
100
80
60
40
20
20
40
60
80
100
t
Figura 2. Quantidade de células ativas (x) em função do tempo (t)
para a primeira parte (gráfico de cima) e para a segunda parte (gráfico
de baixo), com m=10, n/2=30 e q=5%. Ambas as partes estão
sincronizadas com período 15, que é o mesmo do estímulo externo.
401
A Figura 2 ilustra um caso em que as duas partes se
sincronizam com o mesmo período do sinal de entrada, que,
nesse exemplo, vale 15. A Figura 3 exibe um caso em que
ambas as partes oscilam com período 18, que é o dobro do
período do estímulo. A Figura 4 mostra um caso em que não
há sincronismo, para uma entrada de período 18.
Analisando a Tabela 1, verifica-se que as 20 redes levam
a comportamentos diversos, variando o período do estímulo
e o neurônio de entrada. Uma conclusão similar é obtida
analisando a Tabela 2.
x
Tabela 2. Percentuais de casos que há sincronismo num período que é
igual, múltiplo ou submúltiplo do período de entrada, para 20 redes
geradas com m=10, n/2=30 e q=5%. Em cada linha, a soma é 100%.
sincronismo entre a rede e o estímulo
período
igual
múltiplo
Submúltiplo
não
3
0,0%
97,0%
0,0%
3,0%
6
80,0%
8,5%
0,0%
11,5%
9
0,0%
87,0%
0,0%
13,0%
12
83,0%
0,0%
14,0%
3,0%
15
51,5%
17,5%
0,0%
31,0%
18
97,5%
0,0%
0,0%
2,5%
100
Comparando as duas tabelas, nota-se que n (o número de
colunas) parece afetar “pouco” os resultados (o que é comprovado por um teste de hipóteses (e.g. [12]): p=0,14>0,05).
80
60
40
x
20
150
20
40
60
80
100
t
100
x
140
50
120
100
20
80
40
60
80
100
t
60
x
40
20
150
20
40
60
80
100
t
100
Figura 3. Quantidade de células ativas (x) em função do tempo (t) para
a primeira parte (gráfico de cima) e para a segunda parte (gráfico de
baixo), com m=10, n/2=30 e q=5%. Ambas as partes estão sincronizadas
com período 18, sendo que a primeira parte recebe um estímulo de
período 9.
Tabela 1. Percentuais de casos em que há sincronismo num período
que é igual, múltiplo ou submúltiplo do período de entrada, para 20
redes geradas com m=10, n/2=10 e q=5%. Em cada linha, a soma vale,
obviamente, 100%.
sincronismo entre a rede e o estímulo
período
igual
múltiplo
submúltiplo
não
3
0,0%
100,0%
0,0%
0,0%
6
83,5%
12,5%
0,0%
4,0%
9
8,5%
76,0%
0,5%
15,0%
12
80,0%
0,0%
8,5%
11,5%
15
66,5%
5,0%
0,0%
28,5%
18
99,5%
0,0%
0,0%
0,5%
50
20
40
60
80
100
t
Figura 4. Quantidade de células ativas (x) em função do tempo (t) para
a primeira parte (gráfico de cima) e para a segunda parte (gráfico de
baixo), com m=10, n/2=30 e q=5%. O período do estímulo vale 18.
Durante o intervalo de tempo considerado, não houve sincronismo.
Observando as Figuras 2 e 3, que apresentam casos em
que as duas partes se sincronizam, percebe-se que a
evolução temporal da atividade x(t) de cada parte segue um
padrão de ativação distinto. Em geral, constata-se que o
número de neurônios disparando sincronamente na segunda
parte tende a ser maior que na primeira (que é aquela que
recebe o estímulo).
402
Sincronismo entre redes neurais com topologia de acoplamento do tipo Newman-Watts
Alex Martins e Luiz Henrique Alves Monteiro
Ainda, verifica-se que, quando há sincronismo, o padrão
de ativação da rede é tal que o subconjunto de neurônios
ativos varia periodicamente. Ou seja, a cada passo de tempo,
tem-se um subconjunto de neurônios ativos que se repete
após um período. Todos os neurônios acabam passando pelo
estado ativo após uma oscilação síncrona completa. O
padrão de ativação observado costuma se alterar com o
período do estímulo e com o neurônio de entrada.
Nosso objetivo, com este modelo, é tentar desvendar a
relação entre a topologia de redes neurais biológicas e as
funções por elas desempenhadas. Certamente, ainda há
muito por fazer.
5. DISCUSSÃO E CONCLUSÕES
REFERÊNCIAS
Há diversos trabalhos analíticos e/ou numéricos que
visam determinar a influência da topologia do acoplamento
no comportamento de redes compostas de unidades
dinâmicas (e.g. [9]). Por exemplo, Gristein e Linsker [13]
mostraram, através de simulações, que redes complexas
livres-de-escala favorecem a atividade síncrona, quando
comparadas a redes aleatórias do tipo Erdös-Rényi,
considerando que os neurônios podem estar em um de dois
estados: ou ativo ou em repouso. Lu, He, Cao e Gao [14]
avaliaram o desempenho de redes do tipo Hopfield com
neurônios binários, conectados de modo regular ou
aleatório, em tarefas de armazenamento e de recuperação de
padrões armazenados. Eles concluíram que redes com
conexões predominantemente aleatórias têm desempenho
melhor do que aquelas com conexões predominantemente
regulares. Aqui, foi utilizada uma rede complexa com
topologia do tipo Newman-Watts para investigar a
possibilidade de haver sincronismo entre duas redes
conectadas, sendo uma delas influenciada por um estímulo
periódico. Mostrou-se que tal solução síncrona pode surgir e
que as redes podem operar em períodos que são ou iguais,
ou múltiplos ou submúltiplos do período do sinal de entrada.
No nosso modelo, os neurônios estão, a cada passo de
tempo, em um de três estados.
Estruturas neurais conectadas, como retina, núcleo
geniculado lateral e córtex visual de mamíferos, podem se
sincronizar (e.g. [7]). E, para estímulos com diferentes
periodicidades, o sincronismo pode se dar em períodos que
são iguais ou múltiplos do período da excitação (e.g. [8]).
Nosso modelo reproduz, ao menos em parte, essas
observações. Certamente, os resultados das simulações
dependem da topologia da rede, do número de estados
disponíveis aos neurônios e das regras de transição.
Muitas questões interessantes surgem naturalmente. Por
exemplo:
1) Que características topológicas dos acoplamentos
entre os neurônios facilitam as partes a se sincronizarem no
mesmo período do sinal de entrada? Sincronizarem-se com
períodos diferentes da entrada? Não se sincronizarem?
2) Será que existe uma medida topológica que preveja a
ocorrência ou não de sincronismo?
3) Por que, nosso modelo, estímulos de períodos 3 e 9
levam preferencialmente a sincronismo em períodos que são
múltiplos desses números, enquanto que estímulos de
períodos 6, 12, 15 e 18 favorecem sincronismo com a
mesma periodicidade do estímulo?
4) Como o valor de q afeta a dinâmica desse sistema?
5) Qual a influência do tamanho do reticulado (determinado por m e n) sobre a solução síncrona?
6) Como os resultados se alteram caso o neurônio possa
disparar por mais de dois passos de tempo consecutivos?
[1] F. Varela, J.P. Lachaux, E. Rodriguez, and J. Martinerie, “The
Brainweb: Phase Synchronization and Large-Scale
Integration”, Nature Neuroscience, Vol. 2, No. 4, pp. 229-239,
Apr. 2001.
AGRADECIMENTO
LHAM agradece o apoio do CNPq.
[2] A.L. Roskies, “The Binding Problem – Introduction”, Neuron,
Vol. 24, No. 1, pp. 7-9, Sep. 1999.
[3]DOI P.J. Uhlhaas , W. Singer, “Neural Synchrony in Brain
Disorders: Relevance for Cognitive Dysfunctions and
Pathophysiology”, Neuron, Vol. 52, No. 1, pp. 155-168, Oct.
2006.
[4]DOI T.B. Schillen , P. König, “Binding by Temporal Structure
in Multiple Feature Domains of an Oscillatory Neuronal
Network”, Biological Cybernetics, Vol. 70, No. 5, pp. 397405, Feb. 1994.
[5]DOI N.F. Rulkov, “Regularization of Synchronized Chaotic
Bursts”, Physical Review Letters, Vol. 86, No. 1, pp. 183-186,
Jan. 2001.
[6]DOI D. Volk,“Spiking Behavior and Epileptiform Oscillations in
a Discrete Model of Cortical Neural Networks”, Theory
in Bioscience, Vol. 120, No. 1, pp. 33-44, Mar. 2001.
[7] M. Castelo-Branco, S. Neuenschwander, and W. Singer,
“Synchronization of Visual Responses between the Cortex,
Lateral Geniculate Nucleus, and Retina in the Anesthetized
Cat”, Journal of Neuroscience, Vol. 18, No. 16, pp. 6395–
6410, Aug. 1998.
[8]DOI I.P. Fawcett, G.R. Barnes, A. Hillebrand, K.D. Singh,
“The Temporal Frequency Tuning of Human Visual Cortex
Investigated Using Synthetic Aperture Magnetometry”,
NeuroImage, Vol. 21, No. 4, pp. 1542-1553, Apr. 2004.
[9] L.H.A. Monteiro, Sistemas Dinâmicos Complexos, Editora
Livraria da Física, São Paulo, 2010.
[10]DOI M.E.J. Newman D.J. Watts, “Renormalization Group
Analysis of the Small-World Network Model”, Physics
Letters A, Vol. 263, No. 4-6, pp. 341-346, Dec. 1999.
[11] W. Gerstner and W. Kistler, Spiking Neuron Models,
Cambridge University Press, Cambridge, 2008.
[12] A. Papoulis and S.U. Pillai, Probability, Random Variables
and Stochastic Processes, McGraw-Hill, New York, 2002.
[13] G. Grinstein and R. Linsker, “Synchronous Neural Activity in
Scale-Free Network Models versus Random Network
Models”, Proceedings of the National Academy of Sciences
USA, Vol. 102, No. 28, pp. 9948-9953, July 2005.
[14]DOI J. Lu, J. He, J. Cao, Z. Gao, “Topology Influences
Performance in the Associative Memory Neural Networks”,
Physics Letters A, Vol. 354, No. 5-6, pp. 335-343, June 2006.