VIII Congreso Internacional del CLAD sobre la Reforma del Estado y de la Administración Pública, Panamá, 28-31 Oct. 2003
Avaliação de políticas públicas : experiências brasileiras :
procedimentos metodológicos
Waldyr Viegas
1 ARCABOUÇO CONCEITUAL DA AVALIAÇÃO
Do ponto de vista metodológico, a avaliação de políticas públicas não há que diferir substancialmente
dos processos análogos empregados em outras atividades humanas, desde que os contextos específicos
de cada qual estejam orientando os procedimentos.
Processos de avaliação se apóiam em quatro categorias de pilares, esquematicamente definidos como
procedimentos, orientação, conteúdo e técnicas. Os dois primeiros conferem um cunho qualitativo da
avaliação, e os dois últimos são de natureza predominantemente quantitativa. O processo de avaliação,
porém, não subsiste se faltar alguma dessas colunas.
a) Procedimentos constituem a maneira peculiar de conduzir os pensamentos no sentido de se conseguir
obter uma imagem mental do objeto de tal forma clara e distinguível que, se não elimina todas as
dúvidas, ao menos, procura minimizar as possibilidades de dúvida sobre ele. Muito eficaz, nesse
aspecto, é a fuga à precipitação, que leva a interpretar fatos e objetos pelas impressões iniciais que
provocam no observador ou pela superficialidade dos fenômenos e sintomas, isto é, aquilo que aparece
à tona do fato. Além da devida acuidade no julgamento, é preciso, também, eliminar qualquer
preconceito ou pré-julgamento, que induz a observar os fatos à luz de posições ideológicas ou de
percepções pessoais do analista. O esplendor da verdade, mesmo subjetiva, há que se sobrepor à
nebulosidade dos fenômenos parcialmente esclarecidos e de contorno nebulosos.
Iluminado pela evidência, o avaliador há de prosseguir pela decomposição de seu objeto, distinguindo,
desde o início, as partes constitutivas, vale dizer, aquelas sem as quais se mudaria natureza do objeto, e
as partes integrantes, ou seja, tudo aquilo que, mesmo concorrendo para a completitude do objeto, tanto
nos aspectos funcionais quanto ao tocante aos aspectos estéticos, se ausente, não alteraria a essência do
objeto. Suficientemente analisadas, as partes tornam-se compreensíveis em si. Isso, porém, não é
suficiente para uma apreciação adequada de um objeto, pois, as partes, mesmo exaustivamente
elencadas, não permitem o conhecimento do todo. Para se chegar a esse conhecimento, mister se faz
uma operação adicional, chamada de síntese, que consiste no ordenamento das partes de modo a se
conhecer as relações que as une. Unindo uma por uma, buscando relacionar as partes, cuidando para
que nenhuma delas passe despercebida aos seus olhos, o avaliador terá garantido uma imagem tão
próxima da realidade quanto sua capacidade de análise lhe permita.
Essa forma de proceder, preconizada, desde muito, pelo racionalismo cartesiano, tem-se mostrado
muito útil nos processos de avaliação. Todavia, o exercício mecânico e formal desses procedimentos,
limita a visão do analista a uma estreita parcela do objeto, pois a análise cartesiana se dá a partir do
objeto e se restringe ao interior de suas fronteiras. É a razão pela qual, aos procedimentos de análise e
síntese do objeto, se deve ajuntar uma orientação peculiar que leve a considerar o objeto como um
todo, em si, e cada parte em particular como o componente de um todo maior, segundo uma visão
sistêmica. Isso é função da orientação dos procedimentos
b) Orientação, em termos de metodologia, é forma de perceber o objeto pesquisado. Pela visão
sistêmica, o objeto pode ser visto em si, mas através do seu relacionamento em termos de espaço e
VIII Congreso Internacional del CLAD sobre la Reforma del Estado y de la Administración Pública, Panamá, 28-31 Oct. 2003
tempo, ou seja, nas suas relações dinâmicas com o ambiente. A visão sistêmica de um objeto se orienta
por quatro paradigmas: pertinência, globalismo, teleologia e agregatividade.
O paradigma da pertinência entende que nenhum objeto é inteligível a não ser razão das intenções do
sujeito sobre ele. É possível avaliar projetos e programas de políticas públicas coincidentes na sua
materialidade. Todavia, serão distintos quando se descobrem fundamentos ideológicos e filosóficos que
os determinaram.
O globalismo entende que qualquer objeto pode ser visto como fazendo parte de um todo maior onde
ele naturalmente se insere ou pode ser inserido por quem o observa ou analisa. Uma política de
informatização de escolas no ensino fundamental tanto pode significar a disponibilização de mais um
recurso didático quanto pode ser vista como um fator de redução da exclusão digital. Na primeira
situação, o ambiente se restringe aos muros da escola: na segunda, ele os ultrapassa para atingir a
sociedade e o meio.
O parâmetro da teleologia ensina que nenhum objeto pode ser julgado ou interpretado por ele mesmo,
senão pelo seu comportamento em razão das intenções do sujeito sobre ele. Na avaliação do ProInfo foi
observado como o uso político do programa definia seja a escola onde o programa seria instalado,
sejam os recursos alocados, seja o tipo de uso que seria feito dos laboratórios.
O princípio da agregatividade adotado pela visão sistêmica entende que não há conhecimento exaustivo
de um objeto. Conhecer um objeto é, quando muito, criar um modelo que o explique, pressupondo-se
que o modelo é uma representação simplificada da realidade. Algumas ciências, a Economia, por
exemplo, emprega modelos com muita freqüência. Consciente da impossibilidade de captar todas as
variáveis concorrentes para um dado fenômeno, ela simplesmente isola duas dessas variáveis e
considera as demais como constantes (cœteris paribus). A Física adota a mesma estratégia quando
introduz nas suas leis a ressalva do CNTP (“ condições normais de temperatura e pressão”). Ocorre
que, no mundo real, nem variáveis se tornam constantes, nem fenômenos ocorrem em condições
normais. Vez que condições normais são apenas um conceito.
c) O conteúdo da avaliação é o elemento mais palpável e perceptível, pois se trata de um dado
quantitativo e mensurável. Trata-se de buscar conhecer o objeto pela descrição de física do sujeito e do
objeto, através de suas circunstâncias de lugar, tempo, modo e quantidade. Esquematicamente, esses
elementos já foram definidos, desde muito, em antigo hexâmetro latino (Quis, quid, ubi, quibus
auxiliis, cur, quomodo, quando) e, hoje, mais conhecido pela fórmula 5W 1H, a qual, por sua vez,
remete aos versos de Kipling em The Elephant’s Child: ”I keep six honest serving-men (They taught
me all I knew); Their names are What and Why and When and How and Where and Who”.
d) As técnicas de levantamento são ainda mais perceptíveis que o conteúdo, pois seu uso implica ações
e atividades várias claramente definidas e observáveis.. Por isso, na linguagem corrente, são, com
freqüência, confundidas com a própria metodologia. Um erro de percepção, pois a metodologia é o
processo de chegar ao conhecimento de um objeto, a realização de um produto ou a maneira de prestar
um serviço, ao passo que as técnicas de levantamento são apenas instrumentos postos à disposição do
analista para recolher dados sobre o objeto, os quais, uma vez depurados, interpretados e analisados,
produzem o conhecimento sobre o objeto. Quando esse objeto é uma avaliação, as técnicas permitem
ao avaliador acessar o objeto para que possa ser enfocado sob o parâmetro da pertinência e da
teleologia. Existem muitas classificações de técnicas de levantamento. Todavia, elas podem ser
agrupadas em quatro categorias, segundo os graus de envolvimento do objeto a ser investigado. Dessa
forma, as técnicas podem ser agrupadas em: pesquisa bibliográfica e documental, observação,
2
VIII Congreso Internacional del CLAD sobre la Reforma del Estado y de la Administración Pública, Panamá, 28-31 Oct. 2003
questionários e entrevistas.
Apoiado nesses quatro pilares − procedimentos, orientação, conteúdo e técnicas − os processos de
avaliação de políticas públicas, além de lograrem uma base metodológica consistente, aumentarão as
chances de um processo eficaz e potencialmente orientador de decisões conscientes.
2 O PROCESSO DE AVALIAÇÃO DE POLÍTICAS PÚBLICAS
A aplicação consciente dessa fundamentação teórica à avaliações práticas de políticas publicas, tanto
surgem preocupações operacionais quanto se esclarecem dúvidas relativas aos caminhos a seguir. Com
efeito, avaliações de políticas públicas devem ter, entre outros requisitos, a neutralidade de
procedimentos a confiabilidade técnica dos dados, e a segurança na interpretação. Isso exige cuidados
específicos que são analisados a seguir.
Em primeiro lugar, políticas públicas, pela própria natureza, carregam componentes ideológicos muito
fortes e sensíveis. Poucas coisas políticas públicas são evidentes, salvo a consciência de que é um
mundo eivado de ideologias, as quais, por definição, não são verificáveis nem mensuráveis. Daí a
necessidade, maior do que áreas técnicas, de isenção de ânimo, busca de neutralidade e liberação de
juízos pré-concebidos. Tais pré-requisitos dificilmente são encontrados no grupo formulador, executor
ou receptor das políticas. Não se trata de questionar, genericamente e a priori, a isenção científica e ou
competência técnica das pessoas envolvidas. Trata-se unicamente de reconhecer a natureza e os
componentes do fenômeno político.
Isso posto, ressalta, logo de início, que avaliações de políticas públicas devem ser feitas, de preferência,
por avaliadores externos ao processo. Em outras palavras, na medida do possível, quem avalia deve
estar fora do objeto da avaliação. Nem deve ser do corpo funcional do órgão ou do setor que formula
ou executa política, pois, dificilmente se manterão neutros em relação a uma atividade na qual estão
intimamente envolvidos, ou se libertarão com facilidade dos comprometimentos pessoais e funcionais
assumidos, nem convém, da mesma forma, que sejam da área técnica sob análise, salvo como
consultoria técnica, pois avaliações por pessoas da mesma área tendem a ser carregar vieses
decorrentes da supervalorização do objeto, o que impede a serenidade do julgamento e a objetividade
das análises. Em suma, para a seleção dos avaliadores, há que se reconhecer que avaliação é uma
atividade específica e autônoma, com suas características e exigências. Uma dessas exigências é ter
consciência da orientação a ser seguida na avaliação.
Efetivamente, a avaliação pode ser orientada em, pelo menos, por três vertentes: a vertente jurídica, a
vertente política e a vertente economico-gerencial. Cada uma dessas vertentes se movimenta no próprio
campo de ação, as suas perspectivas e formas de ação.
A orientação jurídica da avaliação atua no âmbito da lei, contenta-se com a conformação formal dos
atos com a norma que o rege. É mais punitiva do que formativa. Visa, antes de qualquer coisa, os
procedimentos, sendo-lhe estranha as preocupações com os resultados. É um controle do indivíduo. Seu
universo são pessoas que praticam ações, e não ações que são praticadas. De maneira geral, pode-se
dizer que é uma avaliação voltada para a eficiência.
A vertente política é, sobretudo, a busca da eficácia, ou o deslumbramento pelos resultados, vistos, sob
esta ótica, como a coesão do grupo detentor do poder. Dessa forma, a avaliação política, em última
análise, tem um caráter excludente, pois é a coesão interna é o pressuposto do controle social. A
avaliação não busca nem punir, nem alterar, mas excluir. Cortar tudo o que coloque em perigo a
3
VIII Congreso Internacional del CLAD sobre la Reforma del Estado y de la Administración Pública, Panamá, 28-31 Oct. 2003
situação vigente. O objeto final da avaliação não é o indivíduo, como na vertente jurídica, mas o grupo.
A orientação gerencial da avaliação visa essencialmente à ação. Seu papel é verificar se as ações se
orientam para os objetivos estabelecidos. O caráter da vertente administrativa é, sobretudo, includente.
Com efeito, punição ou exclusão, para o administrador, significa perda de recurso. O que ela busca é a
reorientação da ação, quando observam desvios dos objetivos. A avaliação gerencial assume, portanto,
o caráter de monitoramento. Daí se poder dizer que a avaliação gerencial, na essência, busca a
efetividade.
Fica patente, portanto, que, por definição, a avaliação de políticas públicas tem caráter e orientação
gerencial. Não se nega que aspectos jurídico-legais ou vinculações políticas devam ser desconsiderados
ou depreciados. Não se ignora sua importância e validade. Pelo contrário. Mas é da perspectiva
gerencial da avaliação de políticas públicas que trata este trabalho.
Estabelecido o caráter gerencial da avaliação, os parâmetros da visão sistêmica passam a ser definidos.
Os parâmetros da pertinência e da teleologia conduzem a indagação quanto a inserção de uma dada
política no seu contexto geográfico, social e cultural e histórico, bem como sobre os objetivos
implícitos e explícitos, sem os quais nenhuma política se torna inteligível. Nesse contexto, é
conveniente lembrar que objetivos são definidos como os parâmetros de eficácia de uma política. Só
em função desses parâmetros que a política passa a ser avaliada. Só a partir dessas definições podem
ser emitidos juízos de valor sobre determinada política.
Igualmente, só após terem sido identificados os contextos onde se exerce uma política e os reais
objetivos para que foram estabelecidas é que se pode definir os limites do sistema onde ela passa a
atual. Feito isso, é possível selecionar suas variáveis essenciais que constituirão o modelo para sua
análise.
Identificados os parâmetros constitutivos de uma política, suas variáveis essenciais, seus limites e, por
via de conseqüência, suas interfaces, estarão postas as condições para o avaliador definir os conteúdos
de sua análise e, a partir daí, passar para a aplicação de técnicas de levantamento.
A seleção e a aplicação de técnicas de levantamento são fases particularmente espinhosas no processo
de avaliação, pois a confiabilidade técnica do processo depende muito delas. Dado o caráter
operacional dessas fases, as restrições orçamentárias e técnicas se tornam mais visíveis nesse ponto.
São decisões cruciais quanto às técnicas mais adequadas, quando essas devem ser sopesadas em termos
de viabilidade econômica, exeqüibilidade técnica e validação social, a serem avaliadas para cada
situação. Salvo alguns princípios metodológicos gerais, cabe à perspicácia da coordenação do processo
a seleção dos melhores caminhos. Faz-se mister, a esta altura, o recurso a assessoria especializada de
metodologia e de estatística. Há que se selecionar metodologias complementares e alternativas,
identificar as variáveis mais significativas para o modelo, projetar instrumentos e, enfim, realizar o
levantamento dos dados.
3 AVALIAÇÃO EXTERNA DO ProInfo
3.1 Princípios orientadores da avaliação do ProInfo
O Programa Nacional de Informática em Educação (ProInfo) vem sendo implementado pelo Ministério
da Educação desde 1997, através da Secretaria de Educação a Distância − SEED, em parceria com os
governos estaduais e alguns municipais, visa à introdução da telemática na escola pública, como
4
VIII Congreso Internacional del CLAD sobre la Reforma del Estado y de la Administración Pública, Panamá, 28-31 Oct. 2003
ferramenta de apoio ao processo de ensino-aprendizagem. É, portanto, como essência e concepção um
programa de educação, antes que um projeto de modernização tecnológica.
São objetivos organizacionais estratégicos do ProInfo:
a) melhorar a qualidade do processo de ensino-aprendizagem;
b) possibilitar a criação de uma ecologia cognitiva nos ambientes escolares, mediante incorporação
adequada de novas tecnologias de informação pelas escolas;
c) propiciar uma educação voltada para o progresso científico e tecnológico, preparando o aluno para
o exercício da cidadania numa sociedade tecnologicamente desenvolvida.
Em síntese, o Programa visa a melhorar a qualidade e a eqüidade do sistema de ensino do país.
Qualidade no sentido do aumento e diversificação dos espaços e metodologias do processo de
construção e transmissão do conhecimento. Equidade pela ampliação das oportunidades de acesso às
tecnologias da telemática, como instrumento para coleta e tratamento de informações, reduzindo aquilo
que se tem convencionado chamar de exclusão digital.
A concepção do Programa foi orientada pelos seguintes princípios:
a) Articulação entre os diferentes níveis de governo, com a formulação de diretrizes através do
Conselho Nacional de Secretários Estaduais de Educação – CONSED e operacionalização dos
projetos pelos Governos estaduais;
b) Adesão dos Estados e Escolas envolvidos, mediante compromissos explicitados nos Planos
Estaduais de Informática na Educação e nos projetos de aplicação pedagógica da tecnologia de cada
Escola beneficiada, que também assume a responsabilidade pela preparação das instalações físicas e
pela capacitação de professores;
c) Descentralização da execução, a cargo dos Estados, com o apoio da Coordenação Estadual do
ProInfo e do sistema dos Núcleos de Tecnologia Educacional - NTE.
d) parceria, incentivando-se a mobilização da cooperação da comunidade, de instituições de ensino,
como Universidades e Escolas Técnicas, de fabricantes e fornecedores de hardaware, produtores e
editores de softwares educativos, de operadores de telecomunicações, de empresas públicas e
privadas;
e) Transparência, pelo intenso debate das diretrizes do programa e pela ampla divulgação dos seus
objetivos e metas (textos e estudos, folders, página da Internet, entre outros recursos de divulgação);
f) Planejamento integrado, procurando antecipar todos os requisitos considerados essenciais para o
sucesso do projeto, compreendendo infra-estrutura física e tecnológica, capacitação, apoio pedagógico
e suporte técnico.
Foi prevista a implantação de um sistema de acompanhamento e de avaliação com a definição de
indicadores de desempenho que permitissem aferir resultados e impactos em termos de melhoria da
qualidade, eficiência e eqüidade do ensino de 1º e 2º graus. tinham sido previstos desde o plano inicial
do ProInfo, por duas razões principais: em primeiro lugar, o vulto dos investimentos programados
estavam a exigir um acompanhamento mais apurado e detalhado do que o normal de outros programas
congêneres, e, segundo, a complexidade inerente a um processo de introdução de tecnologias de ponta
em sistemas tradicionais de ensino.
Tecnicamente, a avaliação de programas públicos encontra resistência no jogo de poder inerente a toda
organização, quando as tentativas de avaliação frustram-se em interconexões conflitantes de
concepções filosóficas divergentes na teia organizacional.
Sob o ponto de vista metodológico, o processo confronta-se com os múltiplos níveis e as complexas
abordagens dos programas públicos. Dentre esses aspectos, há que se destacar as formas de avaliação,
5
VIII Congreso Internacional del CLAD sobre la Reforma del Estado y de la Administración Pública, Panamá, 28-31 Oct. 2003
as quais podem ser permanentes ou continuadas. É a chamada avaliação concomitante, de natureza
interna, como atividade normal e rotineira do administrador. A esta se ajunta avaliação ad hoc feita
forma pontual, singular, isolada ou num determinado ponto do tempo.
a) Avaliação permanente
Nesse nível, o conceito de avaliação do ProInfo é definido como o processo formativo e participativo
que tem o propósito de “verificar se está acontecendo o que foi previsto” e “medir as conseqüências do
que está acontecendo”.
A avaliação continuada ou permanente está prevista no documento de Diretrizes do ProInfo (julho de
1997) para ser operacionalizada pela Secretaria de Avaliação e Informação Educacional do MEC.
b) Avaliação ad hoc
Complementarmente aos seus processos de avaliação permanente, o Ministério da Educação, através da
Secretaria de Educação à Distância (SEED), julgou conveniente patrocinar uma avaliação ad hoc do
ProInfo, ao final da primeira etapa de execução do ProInfo, viisando a colher subsídios para aperfeiçoar
o planejamento desenvolver mecanismos de implementação para a eventual reformulação de objetivos
e estratégias.
No caso da avaliação do ProInfo, a Coordenação Nacional definiu os Termos de Referência para a
execução do trabalho que implicam a consideração das seguintes aspectos e variáveis:
a) aspectos finalísticos do Programa: intensidade e tipo de uso dos recursos
b) eficiência e qualidade dos cursos de formação;
c) eficiência dos atores e dos processo (multiplicadores, técnicos, suporte pedagógico, coordenação);
d) eficiência e qualidade dos professores;
e) eficiência e efetividade do uso das tecnologias de informação e comunicação (TIC) nas escolas,
efeitos e impactos perceptíveis nas instituições e nos alunos.
f) Eficiência e qualidade dos professores formados nos NTE;
g) Eficiência e efetividade do uso das TIC nas escolas e impactos perceptíveis sobre as sobre as
instituições de ensino (organização e funcionamento) e os alunos.
Note-se que os itens b, c e d dizem respeito a objetivos instrumentais ou insumos para a obtenção dos
objetivos finalísticos a que se refere o item a e se relaciona com a intensidade do uso da infra-estrutura
e dos demais recursos fornecidos à escola. O item e trata dos objetivos finalísticos, ou, no entender de
alguns, da avaliação propriamente dita.
Em síntese, o objetivo dessa avaliação externa é responder a três questões estreitamente interligadas:
1.Qual a situação da infra-estrutura que foi montada?
2. Como ela está sendo utilizada?
3. Que resultados ou impactos produziu?
6
VIII Congreso Internacional del CLAD sobre la Reforma del Estado y de la Administración Pública, Panamá, 28-31 Oct. 2003
3.2 Determinação dos conteúdos
Como era natural, a abordagem sistêmica orientou a definição dos conteúdos a serem pesquisados.
Segundo essa abordagem, o ProInfo é visto como um conjunto de elementos interagentes de maneira a
constituir um todo orgânico, no qual os elementos constitutivos podem ser agrupados em insumos,
processos e saídas. Para efeito de avaliação, são considerados insumos, ou entradas: o projeto
pedagógico, a infra-estrutura física e os recursos humanos, considerados sob o aspecto da adequação
aos objetivos e propostas do programa. O processamento se dá com as ações gerenciais, considerada do
ponto de vista do desempenho dos atores. As saídas são os efeitos e impactos na escola, aqui
materializados na sala de aula, na comunidade escolar, que compreende professores e alunos, e na
comunidade externa.
Esquematicamente, essa estrutura pode ser visualizada na figura abaixo.
Entrada
Processamento
Adequação
Projeto Infra-estrutura
humanos
Saída
Desempenho
Recursos
Gerenciamento
Efeitos e impactos
Escola
Professores
alunos
Comunidade
local
Com base nas diretrizes do MEC, foram identificados os seguintes fatores de sucesso:
a) Fatores estratégicos, que envolvem os princípios básicos que nortearam o programa em termos de :
• adesão que tem em vista a interação sinérgica entre governo federal e governos estaduais e
municipais, de um lado, e entre escola NTE e comunidade, de outro;
• participação e transparência, que contempla a adoção de formas democráticas de tomada de
decisão no âmbito da escola;
• descentralização, que privilegia as iniciativas locais, assegurando ampla liberdade na adoção dos
projetos pedagógicos voltados para a informática na educação;
• articulação, que diz respeito à capacidade de institucionalização do programa e de promoção da
autonomia dos laboratórios de informática, visando à sua sustentabilidade;
• parcerias que incentiva a interação sinérgica com a comunidade e com outras organizações
públicas ou privadas
a) Fatores de infra-estrutura física e tecnológica, que dizem respeito aos recursos físicos e
tecnológicos postos à disposição da escola pelo ProInfo;
b) Fatores de recursos humanos, que estão relacionados com a capacitação de professores e dirigentes
da escola para obtenção dos conhecimentos, habilidades e competências necessárias ao sucesso do
programa;
c) Fatores administrativos e operacionais, que estão relacionados, de um lado, com a forma e
7
VIII Congreso Internacional del CLAD sobre la Reforma del Estado y de la Administración Pública, Panamá, 28-31 Oct. 2003
intensidade com que está sendo utilizada a infra-estrutura proporcionada pelo ProInfo e com os
fatores técnicos que condicionam essa utilização, e, de outro, com os efeitos (curto prazo) e
impactos (longo prazo) que estão sendo gerados como resultado do programa;
d) Fatores pedagógicos, que caracterizam a utilização da informática como um instrumento para a
melhoria do processo ensino-aprendizagem.
A partir desse modelo conceitual, foram definidas as questões para compor os conteúdo a serem
levantadas e definidas as fontes dos dados. Essas foram distribuídas em sete categorias de informantes,
três nos Núcleos de Tecnologia de Educação (NTE) e quatro nas escolas.
Dos NTE seriam pesquisados: 1) coordenadores. 2) técnicos do laboratório de informática e 3)
professores multiplicadores. Nas escolas, seriam entrevistados: 1) diretores ou coordenadores
pedagógicos, 2) coordenadores do laboratório, 3) professores e 4) alunos
Para cada categoria, foram elaborados questionários. Esses instrumentos visariam identificar fatores de
sucesso, como considerados, a partir das diretrizes do MEC para e o programa e a responder a questões
substantivas de avaliação.
3.3 Técnicas de levantamento: censo, amostragem e estudo de casos
O levantamento dos dados deveria atender aos requisitos de confiabilidade, superando erros de
tendências ou vieses da amostra e erros de amostragem. Dada a distribuição desigual de escolas do
ProInfo nos Estados e o quantitativo dos NTE, foi estabelecido duplo tratamento do universo a
pesquisar: um censitário e um amostral. O tratamento censitário seria dado aos NTE e das escolas
situadas em unidades da Federação com menos de 30 escolas beneficiadas pelo ProInfo. O tratamento
amostral foi reservado para as d
À vista desses parâmetros, e considerada a situação de julho de 2001, resultou o mapa geral de pontos
de pesquisa que é mostrado na Tabela 1.emais unidades federativas.
Como parâmetros estatísticos de amostragem, foram estabelecidos nível de confiança de 95% e erro de
estimativa de 5%.
Levantamentos censitários e amostrais através de questionários (survey) garantem um conhecimento
bastante amplo do campo de estudo. Todavia, trata-se de uma visão horizontal e global,
predominantemente quantitativa do tema. Para um conhecimento mais profundo e individualizado e
qualitativo há que se usar a técnica do estudo de casos. Estudo de casos é uma pesquisa empírica que
utiliza múltiplas fontes de informações (o que se define como triangulação) e uma variedade de
processos de investigação (pesquisa documental, entrevistas formais e informais etc.) com o objetivo
de identificar a estrutura e a dinâmica de um sistema complexo cujas fronteiras e elementos integrantes
não estão perfeitamente definidos. Ele implica uma visão holística e busca identificar as inter-relações
entre fatores técnicos, organizacionais, humanos e culturais que explicam o funcionamento do sistema.
Dessa forma, tenta captar informações que nem sempre podem ser coletadas através de metodologias
quantitativas.
Na concepção de Yin, o estudo de caso tem por objetivo “investigar um fenômeno contemporâneo, no
contexto da vida real, especialmente quando as fronteiras entre o fenômeno e o contexto não estão
perfeitamente delimitadas”. Nos estudos de casos são tratadas questões contemporâneas e não há
controle sobre os eventos. Assim, ele se diferencia da história (que trata de fenômenos passados), do
experimento (quando há controle sobre os eventos) e do “survey” (que raramente pode levar em conta o
contexto).
8
VIII Congreso Internacional del CLAD sobre la Reforma del Estado y de la Administración Pública, Panamá, 28-31 Oct. 2003
O estudo de caso permite uma análise abrangente e em profundidade, ao invés de limitar-se a aspectos
muito restritos ou selecionados, como ocorre com avaliações quantitativas. Um conjunto de estudos de
casos permite estabelecer padrões de similaridades e diferenças que propiciam um entendimento mais
profundo dos fenômenos observados
Na avaliação externa do ProInfo, foi estabelecido que seriam 40 casos as serem estudados. Todavia,
eles só seriam definidos a partir da tabulação e da análise dos dados do survey, quando se poderia
individualizar as situações que se mostrassem particularmente promissoras para um conhecimento mais
profundo com maior precisão das causas tanto de sucesso como de insucesso do Programa.
Os estudos de casos foram feitos a partir de setembro de 2002. Compreendem 40 casos, sendo 20 do
ProInfo e 20 relativos a 10 escolas do Projeto Integrar, um programa governamental objetivando a
integração entre a informática e televisão nas escolas. Os casos do Projeto Integrar se realizaram em
duas etapas: uma avaliação ex ante, para mapear a situação da escola, e uma avaliação ex post, para
analisar as transformações ocorridas, em função de iniciativas da própria escola ou como resultado de
intervenções do Ministério da Educação e das Secretarias Estaduais de Educação com o objetivo
integrar as tecnologias de informação e comunicação.
Para proceder ao trabalho de avaliação foram contratados os serviços especializados da Universidade
de Brasília (UnB) em função da sua comprovada experiência e capacidade para mobilizar e estruturar
equipes multidisciplinares voltadas para trabalhos de pesquisa, planejamento e avaliação de programas
e projetos, nos diferentes campos das ciências sociais e das modernas tecnologias.
Foram vinculados ao projeto administradores, educadores, estatísticos e especialistas em informática
educativa que fazem parte do quadro permanente da UnB e que estão credenciados para conceber e
implementar o modelo de avaliação e coordenar a sua aplicação ao ProInfo, tanto do ponto de vista
técnico como operacional.
Na fase da pesquisa de campo de natureza amostral a equipe contou com a colaboração do Centro de
Seleção e Promoção de Eventos (CESPE), unidade especializada da UnB que dispõe de vasta
experiência no planejamento e execução de levantamentos de campo, envolvendo sistemas de coleta e
tratamento de dados computadorizados para um grandes volumes de dados.
O survey foi realizado nos últimos dois meses de 2001. Na pesquisa foram aplicados questionários em
233 NTE e 526 escolas, levantados 1.179 tipos distintos de dados e entrevistadas 11.237 pessoas,
conforme mostra a Tabela 2.
BIBLIOGRAFIA
DESCARTES, René. Discours de la méthode. Paris: Garnier-Flammarion, 1966.
MINISTÉRIO DA EDUCAÇÃO – Secretaria de Educação a Distância. ProInfo: perspectivas e
desafios. Relatório de Pesquisa. Brasília: Ministério da Educação/Universidade de Brasília, 2003.
MOIGNE, Jean-Louis. La théorie du système général: théorie de la modélisation. Paris, PUF, 1977.
VIEGAS, Waldyr. Fundamentos de metodologia científica. 2. ed. Brasília, Edtora Universidade de
Brasília, 1999.
YIN, Robert R Case Study Research – Designs and Methods, 2. Ed. Thousand Oaks: Sage Publications,
1994
9
VIII Congreso Internacional del CLAD sobre la Reforma del Estado y de la Administración Pública, Panamá, 28-31 Oct. 2003
RESENHA BIOGRÁFICA
WALDYR VIEGAS é doutor em Administração pela Universidade de Grenoble (França) e professor
do Departamento de Administração da Universidade de Brasília, na área de Metodologia, Organização
e Sistemas. Autor de Fundamentos de metodologia científica. Escreveu diversos artigos sobre teoria
das organizações e funções administrativas. Foi auditor-fiscal da Secretaria da Receita Federal e
representou o Brasil em organizações multilaterais, como Banco Interamericano de Desenvolvimento e
no Fundo Internacional para o Desenvolvimento Agrícola (FIDA), da ONU, em Roma.
Endereço: SQS 316 – E – 203 / 70.387-05 – Brasília – DF – Brasil
Telefones: (061) 345-2402
E-mail: [email protected]
Tabela 1
PONTOS DE COLETA DE DADOS PARA AVALIAÇÃO DO ProInfo
Por Unidade federada e critérios de seleção - julho de 2001
Unidade federada
NTE
Total de pontos
Pesquisa
de pesquisa
Censitária
Amostral
AC
2
6
8
AL
2
18
20
AM
3
25
28
AP
2
16
18
BA
16
17
33
CE
18
19
37
DF
3
23
26
ES
4
6
10
GO
9
9
18
MA
9
8
17
MG
17
34
51
MS
5
28
33
MT
5
4
9
PA
9
10
19
PB
4
6
10
PE
15
12
27
PI
5
4
9
PR
13
18
31
RJ
12
30
42
RN
3
20
23
RO
2
20
22
RR
2
8
10
RS
11
14
25
SC
14
39
53
SE
2
16
18
SP
42
103
145
TO
4
13
17
BRASIL
233
193
347
759
10
VIII Congreso Internacional del CLAD sobre la Reforma del Estado y de la Administración Pública, Panamá, 28-31 Oct. 2003
Tabela 2
QUANTIDADE DE QUESTIONÁRIOS APLICADOS
por tipo de instrumento
Entrevistado
Quantidade
Diretor de Escola
551
Coordenador de Informática
476
Professor multiplicador – NTE
844
Técnico de laboratório de informática – NTE
213
Coordenador do NTE
246
Professor
3.541
Aluno
5.366
11
Download

Avaliação de políticas públicas: experiências brasileiras