XXIV Encontro Nac. de Eng. de Produção - Florianópolis, SC, Brasil, 03 a 05 de nov de 2004 Análise de cluster como ferramenta de diagnóstico do rendimento escolar: uma proposta de integração entre as abordagens da Qualidade e da Educação Carlos Duek (UFSM) [email protected] Fernando Monteiro Silva (UFSM) [email protected] Viviane Preichardt Duek (UFSM) [email protected] Adriano Mendonça Souza (UFSM) [email protected] Resumo Educadores sofrem pressão para proverem uma educação de qualidade, ao mesmo tempo em que consideram esta, meramente no seu contexto abstrato ou transcendental, ou sugerem a ineficiência da Qualidade Total para a Educação. Observa-se freqüente aversão aos estudos da Qualidade devido a um suposto antagonismo entre produtividade e relações humanas. Desta forma, este artigo objetiva retificar a noção de oposição entre as abordagens da Educação e da Qualidade, ratificando a possível complementaridade entre elas. Para exemplificar tal possibilidade, será apresentado um estudo sobre análise diagnóstica de desempenho escolar, comparando-se rendimentos de 223 alunos do ensino médio do Colégio Militar de Santa Maria, em diversas disciplinas. Verificar-se-á a possibilidade da validação estatística de algumas afirmações do senso comum, como por exemplo, a pressuposição de que aluno que freqüenta a biblioteca apresenta melhor rendimento em determinadas matérias. Os resultados demonstraram baixa correlação entre a quantidade de livros retirados e o desempenho em disciplinas como Literatura e Português, e permitiram identificar a divisão das disciplinas em dois grupos, por meio da análise de cluster. Debatese acerca do enfoque simplista que a Qualidade vem sofrendo, visando uma maior compreensão da sua complexidade e eficiência em inúmeras situações, dentre elas o ambiente escolar. Palavras chave: Qualidade, Desempenho escolar, Análise de cluster. 1. Introdução Educadores e governantes sofrem pressão por uma escola de qualidade, ao mesmo tempo em que consideram esta, meramente no seu contexto abstrato ou transcendental, ou sugerem a ineficiência da Qualidade Total para a Educação. Exemplo disto é a afirmação de Alevato (1999), de que “nunca se falou tanto em qualidade quanto agora. São empresas investindo em programas chamados de ‘Qualidade Total’, são prêmios e certificados, cursos, seminários... que confirmam e realimentam uma espécie de corrida em direção ao grande objetivo geral: alcançar o que chamam de ‘qualidade’”. Após consulta ao dicionário e possíveis reflexões, a autora prossegue afirmando que “trata-se obviamente de mais um ‘mercado’ por onde circulam publicações, conferências, consultorias, grupos de trabalho, enfim, toda uma parafernália que envolve milhões de dólares e de pessoas ocupadas”. Em nota de rodapé, Alevato (1999) exemplifica este citado “mercado” com a contabilização de cerca de 350 títulos ligados ao tema Qualidade Total, encontrados nos catálogos das editoras. Percebe-se, então, um fenômeno recorrente em artigos, revistas e até mesmo na linguagem informal, que podemos denominar de “metonímia da qualidade”. Limitar a Qualidade por ENEGEP 2004 ABEPRO 1457 XXIV Encontro Nac. de Eng. de Produção - Florianópolis, SC, Brasil, 03 a 05 de nov de 2004 meio de uma de suas abordagens, ou tomar a parte pelo todo, pode prejudicar a compreensão da sua complexidade, pois como afirma Zabalza (1998) “a qualidade tem muitas leituras e pode ser analisada de pontos de vistas muito diferentes”. Algumas contribuições provenientes das mais distintas áreas, ao mesmo tempo em que permitem uma visão mais abrangente acerca da Qualidade, podem resultar em confusões e equívocos comuns, como pensá-la como algo abstrato, sem vida própria, sendo algo subjetivo e sem meios de ser conceituado (PALADINI, 1990). Ignorar as demais abordagens da qualidade torna-se fator que restringe a possível colaboração da Qualidade para com a Educação. Por outro lado, as diversas dimensões da Qualidade não podem ser abordadas somente por estudiosos da área, sem a participação dos educadores, verdadeiros conhecedores da realidade escolar e principais atores em uma possível e necessária transformação. 2. Qualidade e Educação É bem verdade que alguns fundamentos da Qualidade Total, se aplicados nas instituições de ensino, já trariam melhoria nos seus resultados, não somente no sistema de gestão, mas também no ambiente escolar e toda sua infra-estrutura. Cita-se a recomendação de Costa (2003) para a profissionalização dos gestores escolares, que não encontra amparo na legislação em relação às instituições públicas e adaptação das técnicas de gestão. Obviamente, a adoção de um gestor profissional não seria critério de qualidade na atividade docente, propriamente dita, mas em muito auxiliaria nos processos de apoio, como administração dos recursos materiais, gestão financeira, sistema de informações gerenciais, manutenção das instalações, trâmite de documentações, aquisição e distribuição do material didático, dentre outros. Desta forma, o docente encontraria um ambiente adequado e melhor apoio para desenvolver suas atividades igualmente complexas e extremamente relevantes. Com isso, defende-se que há inúmeros caminhos para a busca da qualidade na escola. Uma visão unilateral e equivocada acerca de outras áreas do conhecimento, torna-se obstáculo para tal empreendimento. A Qualidade, bem como outras áreas de estudo, deve ser aproveitada em toda a sua complexidade e abrangência. Os benefícios advindos trarão retorno para toda sociedade. Outra interpretação equivocada acerca da qualidade é o suposto conflito entre produtividade e o ser humano. Uma vez mais, Alevato (1999) afirma que “o sucesso técnico está em descompasso com o sucesso nas relações humanas” e que “de uma maneira geral, o trabalhador continua sendo apenas um ‘recurso’, ainda que humano”. Se assim o fosse, como poderíamos explicar que 32% da pontuação total do Prêmio Nacional da Qualidade, está direcionado para clientes, sociedade, pessoas e capital intelectual? Além de destaque na pontuação, observam-se nos fundamentos da excelência do citado prêmio, itens como “valorização das pessoas” e “responsabilidade social e ética” (FPNQ, 2004). Ressalta-se a iniciativa dos órgãos normatizadores internacionais, que incluíram a valorização das pessoas e do meio-ambiente, a despeito de todo descaso observado por parte das instituições legislativas de diversos países. A suposta contradição existente entre o sucesso técnico e as relações humanas, carece de embasamento e cai por terra ao folhearmos diversas publicações da área da Engenharia de Produção, como por exemplo, os Anais do Encontro Nacional de engenharia de Produção – ENEGEP, nas suas diversas edições. Pode-se contabilizar, como fez a autora citada anteriormente com os catálogos das editoras, um sem fim de artigos versando sobre clima organizacional, saúde e segurança no trabalho, ergonomia, gestão ambiental, responsabilidade social e ferramentas para a área do ensino. ENEGEP 2004 ABEPRO 1458 XXIV Encontro Nac. de Eng. de Produção - Florianópolis, SC, Brasil, 03 a 05 de nov de 2004 Sem dúvida, há o interesse pela produtividade e este coexiste com a postura de valorização das pessoas, “porque as pessoas são a verdadeira força e patrimônio de uma organização na obtenção de seus objetivos” (GODOY, 2000). Deduz-se que um círculo virtuoso está composto, no qual quanto mais satisfeitas as pessoas, maior a qualidade e a produtividade, permitindo um maior retorno às próprias pessoas. Em uma sociedade de constantes evoluções e revoluções, a produção do conhecimento de determinada ciência deve lançar mão de todas as possibilidades de melhoria e atualização. Segundo Frizzo (2003), “a educação deve assimilar o dinamismo da vida moderna, que se manifesta em todos os campos, seja o técnico-científico, o cultural e o humano em geral”. Conforme Zabalza (1998) “a qualidade, pelo menos no que se refere às escolas, não é tanto um repertório de traços que possuem, mas sim algo que vai sendo alcançado”. Neste sentido, a interdisciplinaridade vem ao encontro das necessidades de aprimoramento e atualização de todas as áreas do conhecimento, e em especial para a Qualidade e a Educação. Assim sendo, este artigo tem como objetivo retificar a noção de oposição entre as abordagens da Educação e da Qualidade, reforçando a possível complementaridade entre as mesmas. Para tanto, será utilizada a matriz de correlação e análise de cluster como ferramentas de análise do desempenho escolar. Utilizou-se a base de dados do Colégio Militar de Santa Maria, com o desempenho de 223 alunos, das três séries do ensino médio no ano de 2003. Buscou-se verificar a relação entre o desempenho em determinadas disciplinas com a quantidade de livros retirados na biblioteca escolar, por meio do coeficiente de correlação de Pearson. Após isso, analisou-se o comportamento das notas em busca de um possível agrupamento seqüencial aglomerativo pelo método de ligações simples com distâncias euclidianas. 3. Análise de dados e discussão dos resultados Existe no campo da pesquisa educacional, um amplo debate a respeito da suposta oposição entre as tendências quantitativa e qualitativa. Nesta perspectiva, Bogdan & Biklen (1994) questionam se é possível a utilização conjunta de ambas as abordagens. Sobre isso, Pereira (2001), coloca que a pesquisa qualitativa não está isenta de quantificação nem a pesquisa quantitativa prescinde de raciocínio lógico e que a denominação qualitativa ou quantitativa não delimita para uma e outra, objetos qualitativos e quantitativos, nem tampouco paradigmas científicos distintos. Tais afirmativas nos remetem a Gamboa (1997), que sugere a complementaridade entre a abordagem qualitativa e quantitativa, pois a associação entre ambas, na investigação de um mesmo problema, levaria a uma compreensão e poder preditivo mais considerável. Em síntese o que o autor nos coloca é que os métodos quantitativo e qualitativo não são incompatíveis; pelo contrário, estão intimamente imbricados e, portanto, podem ser usados sem que se caia em uma contradição epistemológica. Pereira (2001), complementa esta posição ao afirmar que a falsa oposição entre as abordagens “carece de pertinência e só encontra abrigo na intolerância, inimiga da ciência e da verdade”. Desta forma, exemplifica-se a influência da biblioteca escolar, sob uma ótica quanti qualitativa, na qual o quantitativo ofereceria subsídios para uma análise qualitativa dos dados. Ressalta-se a necessidade de dar significado aos “números” coletados, privilegiando essencialmente, segundo Bogdan & Biklen (1994), “a compreensão dos comportamentos a partir da perspectiva dos sujeitos da investigação”, permitindo uma interação dinâmica e complementar, tanto das citadas abordagens, em um sentido específico, quanto das ciências em questão. Lajolo (2003) observa que “pesquisas recentes sugerem que no Brasil se lê, sim. Só que não os autores e os livros que os especialistas acham que deveriam ser mais lidos e os mais ENEGEP 2004 ABEPRO 1459 XXIV Encontro Nac. de Eng. de Produção - Florianópolis, SC, Brasil, 03 a 05 de nov de 2004 apreciados”. Baseado em tal afirmação e na premissa de que alunos que retiram maior quantidade de livros nas bibliotecas escolares, apresentam melhor rendimento em determinadas disciplinas, como Português e Literatura, origina-se um problema relevante para a comunidade científica e merecedor de uma abordagem multidisciplinar. A coleta de dados ocorreu em uma escola do ensino médio da Cidade de Santa Maria, na qual 223 alunos regulares tiveram suas notas registradas em 8 disciplinas, a saber: Matemática (MAT), Química (QUI), Física (FIS), Português (PORT), Biologia (BIO), História (HIST), Geografia (GEO) e Literatura (LIT). Correlacionou-se a variação das notas com a quantidade de livros retirados na biblioteca (BIBL), sem distinção quanto ao estilo literário ou formato da publicação. Ressalta-se que não há o desejo de limitar ou controlar o tipo e quantidade de publicações retiradas das bibliotecas pelos jovens, mas sim direcionar as retiradas da biblioteca escolar.A matriz de correlação gerada, é apresentada na tabela abaixo: MAT MAT 1,00 QUI 0,86 FIS 0,78 PORT 0,73 BIO 0,73 HIST 0,72 GEO 0,74 LIT 0,65 BIBL -0,07 QUI FIS PORT BIO HIST GEO LIT BIBL 1,00 0,79 0,73 0,79 0,72 0,76 0,67 0,01 1,00 0,63 0,56 0,53 0,71 0,68 0,05 1,00 0,73 0,72 0,75 0,82 0,07 1,00 0,76 0,63 -0,01 1,00 0,77 0,13 1,00 0,19 1,00 1,00 0,77 0,67 0,61 -0,11 Tabela 1 – matriz de correlação A análise da matriz de correlações indica baixa correlação entre a quantidade de livros retirados com o desempenho nas disciplinas de Português (0,07) e Literatura (0,19), apesar de esta última ser a melhor correlação apresentada para a variável Biblioteca. Segundo Barbetta (1994), valores próximos a 0 (zero), indicam que não há correlação nos dados, sendo considerado fraco até atingir índices próximos a +0,3 ou -0,3. Isto nos permite inferir que, para a situação estudada, a quantidade de livros retirados na biblioteca escolar e o desempenho escolar não estão correlacionados, contrariando a premissa descrita e confirmando a afirmativa de Lajolo (2003), ambas citadas anteriormente. Neste momento, deve-se proceder a uma reflexão pedagógica, na qual sugere-se buscar respostas aos seguintes questionamentos focados na retirada de material da biblioteca escolar: − − − − − − − − Quais os tipos de publicações preferidos? Os títulos retirados são indicados pelos docentes ou de livre escolha dos alunos? Os docentes buscam contextualizar a abordagem dos conteúdos nos livros recomendados? A quantidade retirada por aluno é adequada? Há algum estímulo para a busca da leitura recomendada? Há quantidade suficiente para uma turma trabalhar a mesma leitura? Há publicações atualizadas e em bom estado? A biblioteca escolar apresenta ambiente convidativo e adequado? Diversos outros questionamentos poderiam completar esta lista, conforme o interesse e o foco ENEGEP 2004 ABEPRO 1460 XXIV Encontro Nac. de Eng. de Produção - Florianópolis, SC, Brasil, 03 a 05 de nov de 2004 investigativo da coordenação pedagógica. Esta análise permite um diagnóstico para a refutação ou confirmação de pesquisas qualitativas. É o momento no qual a coordenação pedagógica e o corpo docente, os verdadeiros conhecedores do ambiente estudado devem avançar e formular novos questionamentos e hipóteses, a partir da análise gerada. Neste caso, houve a confirmação estatística de uma afirmação desprovida de maiores análises dos dados qualitativos. A alternância e simultaneidade entre as abordagens resultam em uma sinergia benéfica e produtiva para a comunidade científica. Um constante questionamento acerca do desempenho dos alunos, quando se comparam as diversas disciplinas entre si, é a veracidade do senso comum ao atribuir facilidade de aprendizado em todas as “exatas” para um estudante com bom desempenho em Matemática. Volta-se à amostra, com 223 indivíduos do ensino médio em 8 disciplinas, formando 1768 observações. Para saber se há ligação entre o aprendizado das ciências exatas, ou das sociais, algumas abordagens podem ser adotadas, dentre elas a análise multivariada, que permite estudar, simultaneamente, o comportamento de diversas variáveis, no caso as disciplinas e indivíduos. Para se verificar a semelhança entre disciplinas, faz-se necessário adotar um critério de agrupamento. Segundo Valentin (2000) um critério básico de fusão é a reunião de grupos com maior similaridade entre si. A técnica adotada foi a análise de cluster, na qual são calculadas as distâncias entre os objetos estudados dentro do espaço multiplano composto pelas variáveis, permitindo seus agrupamentos pelo critério de proximidade (PEREIRA, 2001). A regra de amalgamação utilizada foi ligação simples, com distância euclidiana, por meio do programa STATISTICA versão 6.0. Observou-se a aglomeração em dois principais grupos, conforme a Figura 1, abaixo. MAT MAT 0,0 QUI 12,7 FIS 15,9 PORT 19,3 BIO 17,2 HIST 24,6 GEO 21,4 LIT 19,0 QUI FIS PORT BIO HIST GEO LIT 0,0 13,3 16,1 12,9 22,6 18,2 15,3 0,0 16,5 18,9 23,2 16,8 15,3 0,0 16,0 15,5 11,3 12,8 0,0 12,7 22,6 0,0 16,4 0,0 0,0 21,3 19,3 16,7 Tabela 2 – matriz de distâncias euclidianas Média DP MAT QUI BIO FIS GRUPO 1 6,18 6,18 6,22 6,40 6,25 1,67 1,32 1,34 1,33 1,42 Tabela 3 – média e desvio-padrão do grupo 1 PORT HIST GEO Média 6,77 7,35 7,04 DP 1,01 1,23 1,00 LIT GRUPO 2 6,24 6,85 1,18 1,18 Tabela 4 – média e desvio-padrão do grupo 2 ENEGEP 2004 ABEPRO 1461 XXIV Encontro Nac. de Eng. de Produção - Florianópolis, SC, Brasil, 03 a 05 de nov de 2004 MAT QUI BIO FIS PORT GEO HIST LIT 10,5 11,0 11,5 12,0 12,5 13,0 13,5 14,0 14,5 15,0 15,5 Figura 1: dendograma das disciplinas em estudo A matriz das distâncias e a árvore de aglomerados são apresentados acima. Em uma primeira análise, a matriz das distâncias indica algumas tendências de aglomerados, como entre Matemática e Química, entre Química, Física e Biologia, entre Literatura e Português, entre Português e Geografia e, finalmente, entre Geografia e História. Analisando-se o dendograma, observam-se dois principais aglomerados, sendo o primeiro composto pelas disciplinas de Matemática, Química, Biologia e Física e o segundo formado pelas disciplinas de Português, Geografia, História e Literatura, sendo este com média superior e menor variância, ao nível de 1% de significância (COSTA NETO, 2002). As ciências que podemos denominar de naturais, exatas ou de raciocínio lógico mostram-se agrupadas, e as ciências sociais ou que requerem maior leitura e poder de interpretação de texto, agruparam-se separadamente das primeiras, na amostra analisada. Constata-se, assim, um melhor rendimento escolar nas disciplinas do grupo 2. Com os resultados apresentados, o educador pode-se utilizar desta observação par inferir que os desempenhos dos alunos, via de regra, obedecem a um determinado padrão. Utilizando-se uma amostra representativa da turma, que esteja com bom desempenho em uma determinada disciplina do grupo um, é possível inferir que esta terá rendimento semelhante em outra matéria do mesmo grupo. Caso esta apresente resultado não satisfatório em disciplina próxima, deve-se investigar a situação e buscar as causas do comportamento inesperado não havendo a necessidade de se aguardar o fim do ano, com diversos alunos em recuperação, para perceber que houve alguma falha, seja no conteúdo, na infra-estrutura, ou até mesmo na relação entre docente e discentes. Em outras palavras, há uma correlação entre determinadas disciplinas que, caso monitorada, permitirá diagnosticar desvios de comportamento em ENEGEP 2004 ABEPRO 1462 XXIV Encontro Nac. de Eng. de Produção - Florianópolis, SC, Brasil, 03 a 05 de nov de 2004 relação a um modelo esperado. Outra possibilidade seria o uso dos resultados na definição do perfil ou aptidões de um indivíduo ou grupo, tornando-se uma variável interveniente na análise de uma orientação vocacional ou distribuição de indivíduos em grupos, seja homogêneo com indivíduos de perfis semelhantes, seja heterogêneo, com indivíduos de perfis complementares. Com efeito, a Qualidade também pode auxiliar o educador neste momento de investigação das causas. Suas ferramentas são atuais, diversificadas, abrangentes e extremamente eficientes. Entretanto, caberá a este profissional o estudo destas ferramentas, pois caso aqui fossem abordadas parcialmente ou sob uma ótica unilateral, estar-se-ia incorrendo na “metonímia da qualidade”. 4. Conclusão Com a constante pressão por uma educação de qualidade, devem-se buscar alternativas nas diversas áreas do conhecimento. Tomar a Qualidade como sendo apenas um mercado dotado de uma parafernália que mobiliza cifras elevadas, torna-se um equívoco que impede a utilização concomitante de abordagens que não se opõem, mas se associam em uma interação dinâmica e complementar. Com isso, defende-se que as diversas dimensões da Qualidade não podem ser abordadas somente por estudiosos da área, sem a participação dos educadores, verdadeiros conhecedores da realidade escolar e principais atores em uma desejável transformação. A abordagem da Qualidade Total, se aplicados nas instituições de ensino, já traria melhorias no sistema de gestão, no ambiente escolar e na infra-estrutura. Obviamente, não seria critério de qualidade na atividade docente, propriamente dita, mas em muito auxiliaria nos processos de apoio, como sala de meios, recursos materiais, gestão financeira, sistema de informações gerenciais, manutenção das instalações, dentre outros. Isto forneceria ao docente um ambiente adequado para desenvolver suas atividades, igualmente complexas e relevantes. Uma interpretação equivocada acerca da qualidade é o suposto conflito entre produtividade e o ser humano. O sucesso técnico não pode estar em descompasso com o sucesso nas relações humanas, pois as pessoas são o que há de mais importante em qualquer instituição. A Qualidade busca valorizar as pessoas, como se percebe nos fundamentos e critérios de excelência do principal prêmio brasileiro da área, o Prêmio Nacional da Qualidade. Além disso, há uma preocupação em relação a temas como clima organizacional, saúde e segurança no trabalho, ergonomia, gestão ambiental e responsabilidade social e ética, que demonstra o valor das pessoas para os órgãos normatizadores internacionais, levando a Qualidade a uma posição de vanguarda em relação às legislações existentes. O interesse pela produtividade deve coexistir com a postura de valorização das pessoas, pois cria um círculo virtuoso, no qual pessoas satisfeitas aumentam a produtividade e os ganhos, permitindo um maior retorno aos colaboradores. Para exemplificar a possibilidade dessa atuação conjunta de distintas áreas do conhecimento, analisou-se o desempenho em 8 disciplinas de 223 alunos do ensino médio, na cidade de Santa Maria / RS. Através de matriz de correlação, concluiu-se que a quantidade de livros retirados na biblioteca escolar apresentou baixa correlação com o desempenho dos alunos, mesmo em disciplinas como Português e Literatura. Em seguida, elaborou-se a uma análise de agrupamentos na qual constatou-se a separação das disciplinas em dois grupos principais, sendo um englobando as ciências de raciocínio lógico e em outro, as de raciocínio interpretativo. Desta forma, fica evidenciada a existência de uma proximidade entre determinadas disciplinas que permitirá diagnosticar desvios de comportamento em relação a um modelo estatístico, analisado previamente. ENEGEP 2004 ABEPRO 1463 XXIV Encontro Nac. de Eng. de Produção - Florianópolis, SC, Brasil, 03 a 05 de nov de 2004 Referências ALEVATO, H. M. R. (1999) – Qualidade: um mito pós-moderno. In: TEVES, N. & RANGEL, M. (orgs). Representação social e educação: tema e enfoques contemporâneos de pesquisa. Papirus. Campinas. BARBETTA, P. A. (1994) – Estatística aplicada às ciências sociais. UFSC. Florianópolis. BOGDAN, R. & BIKLEN, S. (1994) - Investigação qualitativa em educação: uma introdução à teoria e aos métodos. Editora Porto. Cidade do Porto. COSTA, F. J. & BATISTA, P. C. S. (2003) - Orientações estratégicas para o setor escolar privado de Fortaleza. In: XXIII Encontro Nacional de Engenharia de Produção, Anais. ABEPRO. Porto alegre. COSTA NETO, P. L. O. (2002) – Estatística. Edgard Blücher. São Paulo. FRIZZO, M. (2003) – A importância da avaliação institucional para a melhoria da qualidade de ensino – a experiência de uma instituição de ensino superior. In: XXIII Encontro Nacional de Engenharia de Produção, Anais. ABEPRO. Porto alegre. FPNQ - FUNDAÇÃO PARA O PRÊMIO NACIONAL DA QUALIDADE. (2004) - Critérios de Excelência: o estado da arte da gestão para a excelência do desempenho e o aumento da competitividade. FPNQ. São Paulo. Disponível em: <http://www.fpnq.org.br>. Acesso em: 11 jan. 2004. GAMBOA, S. (1997) – Pesquisa educacional: quantidade – qualidade. Cortez. São Paulo. GODOY, L. P. (2000) – Qualidade e Produtividade no PPGEP: histórico do Programa, análise dos serviços hospitalares, ensino superior e dos recursos humanos. UFSM. Santa Maria LAJOLO, M. (2003) – Leitura: você faz a diferença. In: Revista Nova Escola, ano 18, nº 168, dez., p. 14. PALADINI, E. P. (1990) – Controle de qualidade: uma abordagem abrangente. Atlas. São Paulo. PEREIRA, J. C. R. (2001) – Análise de dados qualitativos. EDUSP. São Paulo. VALENTIN, J. L. (2000) – Ecologia numérica: uma introdução à análise multivariada de dados ecológicos. Interciência. Rio de Janeiro. ZABALZA, M. A. (1998) – Qualidade em educação infantil. Artmed. Porto Alegre. ENEGEP 2004 ABEPRO 1464