Programa das Nações Unidas para o Desenvolvimento Ministério da Educação Instituto Nacional de Estudos e Pesquisa Educacionais Anísio Teixeira (Inep) Informe de Avaliação Final PROJETO BRA/04/049: EDUCAÇÃO PARA O SÉCULO XXI: ESTUDOS, PESQUISAS, ESTATÍSTICAS E AVALIAÇÕES EDUCACIONAIS. Março /2015 Brasília, Brasil Termo de referência: Consultora Clarice Zilberman Knijnik Contrato: 2014/000658 Produto 03 1 SUMÁRIO EXECUTIVO - Conclusões - Recomendações - Lições Aprendidas INFORME DE AVALIAÇÃO FINAL DO PROJETO BRA/04/049: EDUCAÇÃO PARA O SÉCULO XXI: ESTUDOS, PESQUISAS, ESTATÍSTICAS E AVALIAÇÕES EDUCACIONAIS. 2 Conclusões 1. Principais achados 1.1- Relevância: O setor da educação é parte das prioridades do Programa de Cooperação Técnica da Agência Brasileira de Cooperação e dos compromissos internacionais que o Governo assumiu com representação do Ministério das Relações Exteriores do Brasil. Este setor continua sendo prioritário nas Agendas de Cooperação multilateral e bilateral, por meio de doações e de financiamentos com organismos internacionais. Reflexo da importância da gestão estratégica da educação nacional no Inep pode ser identificado pelo crescente volume de recursos orçamentários e técnicos alocados para o Instituto nos últimos dez anos. Ademais, foram realizados pelo menos 02concursos públicos para permanentes e 03 para temporários, dando melhores condições de sustentabilidade institucional ao instituto. Devido às características de transversalidade e relevância da questão educacional, constatou-se através de entrevistas, que outras fontes de cooperação nacional ou internacional, bem como organizações não governamentais têm apoiado atividades, maximizando as ações empreendidas por esta Cooperação, em âmbito nacional, estadual e local. A cooperação foi desenhada e foi executada adequadamente, atendendo às necessidades de fortalecimento técnico e institucional do Inep para a realização de estudos, censos, avaliações e pesquisas em temas significativos para a melhoria da qualidade da educação brasileira. O projeto apoiou a superação de desafios impostos ao Inep, derivados da ampliação de sua a responsabilidade e da estreita relação de seus produtos com as políticas propostas pelo MEC. Ressaltando dentre outras ações: a análise e melhoria de procedimentos para operacionalização dos exames e avaliações; a melhorias dos processos internos a partir da consolidação do modelo de gestão estratégica do Inep; a apropriação do conhecimento, mediante realização de estudos da base de dados gerados, de maneira a produzir informações relevantes à tomada de decisão. O sistema educacional brasileiro vem experimentando um processo de franca evolução na qualidade de sua gestão e capacidade de planejamento. Parte desta qualificação gerencial tem decorrido da capacidade do Inep em gerar informações relevantes e confiáveis, bem como a adequar-se às novas necessidades decorrentes de mudanças nas políticas de Governo. A educação é identificada como via fundamental para a superação da pobreza e da exclusão social. Na última década, diversos estudos e projetos foram conduzidos, permitindo o reconhecimento da importância na política educacional para o desenvolvimento social, político e econômico da sociedade brasileira. A necessidade de que as ações do Inep estejam em perfeito alinhamento com as estratégias e visão de futuro propostas pelo MEC, deriva do fato de que as ferramentas decisórias têm no Instituto um dos seus pilares de desenvolvimento. Tal fato decorre da imperiosa necessidade da obtenção e tratamento de informações e estatísticas, sem as quais não é possível conhecer o sistema educacional, planejá-lo ou realizar as necessárias correções de rumo. Os dados e informações de censos, avaliações, levantamentos, exames e pesquisas subsidiam a proposição de políticas e planos nacionais como o PNE e o PDE. Nos últimos anos, o cenário institucional brasileiro foi muito favorável à realização deste projeto. As questões de igualdade de oportunidades e promoção da educação de qualidade fazem parte integrante da Agenda da sociedade brasileira, tanto em nível federal, estadual como local. As políticas voltadas à promoção da educação de qualidade para todos os cidadãos representam não somente compromissos nacionais com a sociedade brasileira, mas também aqueles acordados em foros internacionais pelo Governo brasileiro, tais como os Objetivos de Desenvolvimento do Milênio. Portanto grandes avanços foram alcançados no desenvolvimento de instrumentos, mecanismos, metodologias, estudos, pesquisas, censos, avaliações; cerificações e exames de desempenho com o apoio do Projeto, nas ações de larga escala e com grandes investimentos públicos do Inep, MEC e FNDE. Neste contexto, o projeto apresentou alto grau de relevância para a consecução da Política Nacional de Educação e para a melhoria da qualidade da educação. O projeto também está em linha com a política de cooperação na área de educação do PNUD e do Sistema das Nações Unidas. O setor de educação ocupa posição importante entre as 3 prioridades da estratégia de cooperação dos organismos multilaterais e bilaterais com o Brasil. Esta prioridade é confirmada pelos documentos de Estratégias; Programa para o País e Programa destes organismos internacionais (PNUD, UNESCO, UNIFEM, UNICEF). Portanto, pode-se avaliar que o Projeto foi muito relevante para o fortalecimento técnico e institucional do INEP, ao longo do período de dez anos de execução, para tratamento das questões relacionadas à melhoria da qualidade da educação. Qualidade do desenho O desenho inicial do projeto se enquadra por suas características em um projeto do tipo “guarda-chuva” em que as atividades e produtos apresentavam uma relação direta com as necessidades técnicas e institucionais de cada Diretoria para o atendimento das competências do Inep. Esta modalidade apresenta flexibilidade de abarcar um elenco bastante diversificado de atividades e produtos. Ou seja, inicialmente, quatro subprojetos foram constituídos de modo a que a cada diretoria fosse associado um Resultado. Os objetivos do Projeto foram claros, entretanto se apresentaram ambiciosos para serem executados em 42 meses, ainda que os resultados fossem muito necessários de serem alcançados pelo Inep no contexto das políticas de educação nacional. Durante o processo de avaliação foi possível identificar a fragilidade na proposição de indicadores e metas para Resultados e Objetivo. A proposta original, que continha uma matriz lógica foi sendo modificada em cada uma das revisões substantivas a partir de 2007, ficando com a configuração de um conjunto de objetivos, resultados e produtos associados a metas por produtos, em termos quantitativos, após a revisão M. Esta situação é decorrente do longo prazo de execução da cooperação, em que se constituíram com clareza pelo menos 03 momentos ou projetos de cooperação técnica: 2007; 2010 e 2011. O desenho original da cooperação não contou com uma linha de base em 2005, e não foi elaborado planos de ação ou tomadas iniciativas para a constituição de linha de base nos últimos 06 anos (2009/2015). Essa situação constituiu um dos fatores que reduziram a efetividade do processo de monitoramento dos alcances de Resultados e de obtenção de Produtos; bem como restringiu a avaliação intermediária e final do projeto. O projeto foi concebido baseado em alcance de Produtos sem a devida análise ao longo dos 10 anos de suas contribuições para o alcance de Resultados e para a obtenção em mais longo prazo dos Objetivos. Esta situação comprometeu em certo grau a qualidade do desenho e do alcance dos resultados obtidos, por um sistema de monitoramento e avaliação bastante frágil em relação aos grandes eixos de desenvolvimento do projeto. Em relação à definição inicial de estratégias de implantação esta foi proposta de modo a que cada diretoria assumisse um Resultado, sem a preocupação de integração entre essas áreas temáticas do Instituto. Também não foram definidas estratégias de compartilhamento dos resultados alcançados com parceiros externos ao Inep. Não foram indicadas as modalidades, mecanismos e canais para a divulgação e compartilhamento dos estudos realizados pelo Projeto. Esta situação representou uma significativa perda de eficiência no processo de disseminação das informações junto aos demais beneficiários. Atualmente, não se encontram disponibilizados um grande número de estudos produzidos com o apoio da cooperação. Não foi proposta uma estratégia de saída a ser implantados meses antes da conclusão da cooperação técnica. Atualmente, não foi possível identificar nas revisões substantivas, em reuniões tripartites e relatórios de progresso uma indicação de elaboração de estratégia de saída para situação pós 2015; bem como; não foi apresentado plano de ação para as iniciativas do Inep para a continuidade dos seus estudos sem a cooperação técnica, para os próximos 12 meses. Em relação ao arranjo institucional para a gestão do projeto foi acordado entre o PNUD, ABC e Inep uma estrutura que permitiu: (i) implementação concomitantemente 04 a 06 subprojetos, criando espaços de complementaridade com as três Cooperações com o PNUD em andamento naquele momento inicial, mas em fase de conclusão; e (ii) atendesse novas demandas do setor da educação. A criação da UGP junto a DGP e posteriormente junto a Presidência permitiu uma boa qualidade na gestão técnica e financeira, sendo a coordenação técnica e nacional exercida pela Chefia de Gabinete, nos últimos anos. Ao longo do processo de implantação foi necessário criar em 2012 um Comitê Executivo para o Monitoramento e Avaliação de Projetos de modo a permitir maior agilidade e apoio na tomada de decisões em relação às iniciativas da 4 cooperação, ainda que cada Diretoria continuasse como responsável pela condução das atividades e produtos referentes ao Resultado sob sua responsabilidade de execução. Esta modificação do desenho do projeto aportou maior qualidade a sua proposta inicial. Ao mesmo tempo, ao longo da execução da cooperação foi necessário operacionalizar cerca de 20 revisões substantivas e mandatárias, que foram ajustando prazo, recursos e conteúdos dos produtos e atividades. Em geral, pode-se afirmar que o desenho foi perdendo sua validade na medida em que previsto para durar 03 anos e 06 meses foi executado em 10 anos. O contexto do setor da educação e das diretrizes para cooperação técnica internacional sofreram mudanças importantes com reflexos no desenho inicial da cooperação. Desse modo, as novas diretrizes de cooperação foram sendo implantadas e o projeto foi se adaptando a esse novo cenário, com certa dificuldade, devido aos compromissos internos assumidos para a execução de conjunto de atividades para obter determinados Produtos. Essa situação poderia em parte indicar as dificuldades de execução da cooperação identificadas por alguns interlocutores no Inep, em relação, por exemplo, ao tratamento de informações. Por outro lado, a modalidade guarda chuva foi se mostrando como desenho adequado para atender múltiplas demandas do setor de educação, ao longo de dez anos. Ao mesmo tempo foi se afastando das novas diretrizes da cooperação técnica brasileira. Este fato permite indicar que quanto menor for o tempo de execução de uma cooperação, mais próxima essa se mantém das prioridades políticas e institucionais, tanto no setor como em cooperação técnica, resguardando a qualidade do desenho. Portanto, esse modelo de desenho de cooperação técnica não seria o mais recomendado para outras cooperações técnicas com o Inep, visto que a evolução no tema tem sido de ter cooperações com menor tempo de execução e com resultados direcionados a serem obtidos, por meio de expertise externa aportada por profissionais e temas focados em assuntos mais delimintados. Pode-se afirmar que o desenho do Projeto ao longo de dez anos foi consistente e apoiou o desenvolvimento de capacidades e produção de conhecimento do Inep; bem como, apoiou as áreas prioritárias e estratégicas para a atuação institucional do Instituto no setor de educação. Eficácia Por meio do alcance de Produtos contributivos para a obtenção de Resultados é possível identificar por meio das contribuições desses Resultados para o alcance do Objetivo de Desenvolvimento do projeto. Entretanto, ao longo da execução desse projeto, foram obtidos os Produtos por diferentes modalidades: inicialmente por meio de equipe-base e retainers; consultores de longo prazo e temporários e finalmente por meio de consultores por Produto. Devido ao desenho do Projeto as consultorias promovidas se caracterizavam como pontuais e suplementares aos fortes investimentos realizados pelo Inep em temas de sua competência e demandados pelo MEC e parceiros. Portanto, a análise de eficácia deverá refletir esse conjunto de estudos, pesquisas e levantamentos realizados que atendiam a demandas pontuais das Diretorias do Inep, para responder aos desafios técnicos e institucionais para subsidiar com dados e informações a formulação de políticas publicas do MEC e outros parceiros. Em geral pode-se afirmar que o grau de eficácia dos resultados alcançados foi médio sendo que internamente entre os 06 Resultados (restaram cinco a partir de 2009) foi possível constatar uma variedade no grau de obtenção da eficácia, por diferentes motivos internos e/ou externos a Instituição. Assim, de forma sintética estão listados a seguir os principais resultados alcançados que contribuíram para o alcance do Objetivo de Desenvolvimento do Projeto, apoiando estudos e pesquisas, metodologias e instrumentos para a melhoria da qualidade da educação e com o aporte de informações e dados que subsidiaram a formulação de políticas e programas públicos na área da educação. (i) elaboração de realinhamento institucional e modelo de gestão de pessoas para apoiar a gestão do Inep por meio de manuais e modelo de gestão institucional, aprovados, sem estar completamente operacional o modelo. Estes instrumentos geraram significativos efeitos imediatos e de longo prazo na Instituição, que passou a contar com melhores instrumentos efetivos para gestão de pessoal permanente. Ao mesmo tempo, permitiu a consolidação de processos de elaboração, negociação e aprovação de Concursos Públicos para provimento de cerca de 350 cargos efetivos. 5 (ii) elaboração de redesenho de processos de trabalhos nas áreas de licitação, contratos e controle de materiais para apoiar a gestão institucional por meio de estudos, propostas, documentos orientadores aprovados e em uso pelas Chefias das Unidades Administrativas. Os efeitos institucionais e técnicos alcançados poderiam ser identificados em: maior reconhecimento da instituição pela administração pública e fornecedores; maior agilidade nos processos, aumentando a eficiência administrativa e reduzindo custos operacionais; ampliação de redes de comunicação e participação de maior número de parceiros e interessados na implementação de iniciativas; efetivos instrumentos para a preparação, implementação e monitoramento das licitações e contratos administrativos. Estes instrumentos contam com ações e indicadores importantes para programas de investimentos e custeio nas UCS. (iii) constituição de memória técnica e capacitação institucional em instrumentos de gestão institucional como: gestão de recursos humanos; de recursos financeiros; de contratos e licitações. Este conjunto de instrumentos e processos de capacitação gerou efeitos positivos de curto prazo em termos de melhorias na capacidade de resposta e produção de conhecimentos gerenciais para a DGP, técnicos de outros setores do instituto, envolvidos nestes temas. Em termos de efetividade, estas melhorias foram sentidas na redução dos prazos de execução de atividades de aquisições; melhor encaminhamento das questões funcionais; menores custos administrativos e maior confiabilidade nas informações e ações administrativas. (v) constituição de modelo de Escritórios de Processos garantindo melhor operacionalização do sistema de TI e de metodologia de gestão e desenvolvimento de sistemas (MGDS) no Inep por meio de: (i) manutenção e a adequação dos bancos de dados feita mediante a padronização dos sistemas operacionais conforme Plano Tático de Tecnologia da Informação; (ii) produção de ambiente de dados corporativos;(iii) implementação de rotinas ampliando a segurança das informações; (iv) redesenho das bases de dados e de sistemas, adequando à MGDS; (v) seguimento do Projeto EdudataBrasil; (vi) integração das Bases de Dados; e (vii) construção do novo site do Inep. (vi) renovação de capacidades técnicas, de liderança e de colaboração setorial e intersetorial em temas de gestão institucional e administrativa por meio de: reuniões técnicas, grupos de trabalho, experiências bem sucedidas; grupo de consultores e colaboradores com expertise; capacitação de técnicos e estabelecimento de colaborações com demais instituições setoriais. (vi) ampliação da colaboração internacional por meio de estudos comparativos e parcerias internacionais estabelecidas nas áreas de competência do Inep (vii) Diagnósticos elaborados, levantamentos realizados, planejamento estratégico implantado e melhorias em gestão de pessoas. Ainda que tenha sido elaborado e aprovado o Modelo de Gestão Estratégica para o Inep (viii) Soluções de TI implantadas e Inovações Metodológicas implantadas com forte apoio dos recursos do Inep promovendo ademais estudos para garantir a sustentabilidade e maturidade tecnológica de diversos sistemas do Inep, nos processos de validação, padronização e evolução da metodologia de Tecnologia da Informação (TI), inclusive aperfeiçoamento de ferramentas digitais. (ix) criação e consolidação de processos de realização de Censos informatizados e em tempo real promovendo o tratamento diferenciado para determinados temas de educação básica e aportando forte desenvolvimento de análises educacionais, gerando aprimoramento de políticas e programas corretivos nas áreas de interesse; iniciativas voltadas à produção de informações estatísticas geradas para fins de planejamento e para a melhora de Sistemas de Informação e Gestão, com novos produtos desenvolvidos; (ix) proposição de normas para o funcionamento dos Censos, Levantamentos especiais e redes de apoio para estudos e pesquisas sobre educação (nacionais e internacionais); bem como para Grupos de Trabalho e Comitês necessários; promovendo o estabelecimento de GT em diferentes instâncias e com multiplicidade de atores, com procedimentos para produção de resultados e alcance de metas; instalação e funcionamento de redes de informação e intercâmbio de dados com os estados, municípios e demais órgão da União. (xi) avaliação, monitoramento e procedimentos para acompanhamento dos censos, levantamentos, pesquisas em educação assegurando oferta de dados, mais seguros e ágeis para a distribuição de recursos públicos e novos diagnósticos da educação brasileira; promovendo homogeneização de conceitos, metodologias e resultados para fins comparativos; (xii) constituição de memória para análises de processos de evolução educacional ampliando capacidade técnica de avaliação neste tema, em atendimento às demandas das demais Diretorias do Inep, Secretarias do MEC, parceiros estaduais e municipais. (xii) elaboração de novos procedimentos para o sistema de coleta de dados censitários em tempo real, por aluno, docentes e escolas, gerando programas de novos cadastros e administrador de cadastros e realização da Pesquisa de Controle de Qualidade do Censo Escolar em razão da necessidade de verificar a qualidade das informações declaradas ao Censo Escolar da Educação Básica; (xiv) realização do primeiro EDUCACENSO permitindo condições de geração de novas diretrizes; programas e ações a partir dos dados coletados/ diagnóstico sobre a educação básica brasileira. (xv) contribuição para o estabelecimento do Ideb para promover parcerias com outras instâncias para maior adequação das ações de planejamento e investimentos educacionais; (xvi) insumos para a melhoria da educação brasileira, em parceria com as demais áreas do Inep (avaliações). 6 (xvii) realização de estudos sobre estatísticas educacionais que possibilitaram análises sobre os dados nacionais e execução de estudos contemplando de relatório técnico e analítico sobre os dados nacionais da Pesquisa Internacional de Ensino e Aprendizagem - Talis 2013 e estudos temáticos de cunho pedagógico dos resultados nacionais da referida pesquisa (xvii) promoção de processos de reatualização por meio de integração técnica, operacional e administrativa da nova DAEB com as unidades estaduais e locais de educação; promovendo oportunidades de intercâmbio de conhecimentos; experiências bem sucedidas; ações inovadoras e constituição de bases comuns para o tratamento de questões relacionadas à certificação de competências; (xix) capacitações de recursos humanos e participação em reuniões técnicas; promovendo a disseminação de conhecimentos e experiências institucionais para a reatualização processual das avaliações de desempenho Enem, Encceja, Pisa, e Libras. (xx) melhorias na disseminação de informações sobre jovens e adultos pelo Inep vem propiciando o alcance da meta de ampliação de consulta e disseminação dos resultados das pesquisas, coleta de dados e procedimentos para os processos de avaliações, tanto para usuários internos ou externos à Instituição. (xxi) realização de avaliações de certificação de competências e habilidades de jovens e adultos promovendo melhorias na formulação de políticas para a melhoria da qualidade de ensino na modalidade EJA; (xxii) consolidação do Banco de Dados a partir das avaliações: Enem, Pisa, Libras e promoção de Banco de Itens para estas avaliações, reforçando as ações de planejamento, investimentos e diagnósticos setoriais para a formulação de políticas educacionais. (xxiii) promoção de certificação de cidadãos brasileiros no exterior que necessitam reconhecimento dos conhecimentos e habilidades adquiridas em outros países, contribuindo para a implementação de políticas nacionais neste tema. (xxiv) realização de estudos em Educação Superior, Trajetória do Negro na Educação Brasileira e de diagnostico da Educação Básica; e estudos inovadores em educação com mudanças de paradigmas na educação. (xxv) promoção de estudos e pesquisas no Brasil e no MERCOSUL inclusive estudo analítico e comparativo do Setor Educacional do MERCOSUL – Educação Superior. (xxvi) promoção de estudos e cooperação internacional voltado à qualidade da informação e modernização dos sistemas estatísticos; (xxvii) fortalecimento da capacitação para o uso do Sistema de Informações sobre Orçamentos Públicos em Educação (SIOPE) permitindo a disseminação de informações no setor junto aos gestores educacionais. (xxviii) promoção de melhorias de processos e sistemas de informação asseguraram atualizações para atendimento de novas em ensino superior; e modelagem e manutenção dos bancos de dados já instalados no Inep, e a utilização destes dados pelos parceiros, como por exemplo: (a) Enem; (b) Prova Brasil; (c) Enade; e (d) Encejja. (xxix) elaboração de micro dados e o desenvolvimento de novos módulos de consulta para facilitar a extração de dados pelos usuários estaduais; municipais e dos gestores educacionais. (xxx) promoção do Prêmio Inovação em Gestão Educacional, e Banco e Experiências Inovadoras para a melhoria de qualificação dos gestores educacionais. (xxxi) estudos geradores de subsídios às políticas educacionais por meio de proposição de indicadores a respeito da infraestrutura das escolas, com base na Teoria da Resposta ao Item e indicadores sobre as características socioeconômicas dos alunos, com base em TRI, utilizando as bases de dados do Inep (Censo Escolar e Saeb). (xxxii) estudo para a proposição e validação de Matriz de Referência da Prova Docente a partir da análise dos itens e testes elaborados a partir dessa Matriz. (xxxiii) desenvolvimento de pesquisas e estudos acompanhados pelo Observatório da Educação em conjunto com o MEC/Capes; (xxxiv) estudos para a implantação do Sinaes e avaliação da dinâmica ao longo de 10 anos. (xxxv) estudos para a atualização do Sinaes contemplando informações e resultados de todos os componentes do SINAES (autoavaliação realizada pelas Comissões Próprias de Avaliação (CPA)); os resultados da avaliação externa da instituição; avaliação dos cursos de graduação; os resultados do Censo Anual da Educação Superior e o Exame Nacional de Desempenho dos Estudantes, dentre outros. (xxxvi) adaptações nos sistemas legados do Censo da Educação Superior e capacitação de cerca de 400 avaliadores no Sinaes e pesquisadores institucionais (xxxvii) realização de estudos sobreaderência dos cursos de graduação às Diretrizes Curriculares Nacionais; sobre o Exame Nacional de Desempenho dos Estudantes; (xxxviii) estudos para apoio à melhorias no Enade e sistematização dos relatórios de avaliação, de modo a apoiar o desenvolvimento de estudos sobre padrões de qualidade da ES; (xL) execução de coleta de informações da Educação Superior aprimorada pela revisão e adequação dos sistemas informatizados do Censo da Educação Superior, do sistema Sinaes e do Sistema Eletrônico e-MEC. Foram realizadas atividades de informatização dos dados da avaliação da educação superior no Portal do Sinaes, incluindo o Banco Nacional de Avaliadores do Sinaes – Basis e o Sistema Eletrônico e-MEC. 7 (xLi) execução da avaliação do Banco de Avaliadores do Sistema Nacional de Avaliação da Educação Superior – Basis; e meta-análise do Sistema Nacional de Avaliação da Educação Superior - Sinaes (xLii) estudo promovendo a construção da padronização das bases conceituais do Enade, com reflexos importantes nos processos de realização dos exames de desempenho em termos nacionais. (xLiii) estudos apoiando a revisão conceitual do Censo Escolar da Educação Básica e da Educação Superior gerando importantes aportes técnicos para a aplicação de avaliações e proposição de políticas públicas. (xLiv) realização os testes estatísticos – testes de novos indicadores; validação de instrumentos de pesquisa; apoio na construção de critérios para validar resultados; na validação de instrumentos e metodologias utilizadas no Sinaes; (xLv) desenvolvimento de estudos sobre a evolução da construção e implantação dos Ciclos Avaliativos do Sistema Nacional de Avaliação da Educação Superior (Sinaes). (xLvi) produção de 10 estudos analíticos sobre as Avaliações da Educação Superior envolvendo Sinaes, REVALIDA; Enade; e outros processos vinculados ao ensino superior. (xLvii) harmonização das ações para a integração dos dados do Sistema de Avaliação da Educação Básica com os dados do Censo Escolar. (xLviii) realização da primeira avaliação para obtenção de dados de desempenho por unidade escolar (Prova Brasil, em 2007) e aumento de confiabilidade nos dados do Saeb. (xLix) consolidação e ampliação da rede de avaliação da EB e disseminação de informações e dados do SAEB e Prova Brasil (li) revisão do currículo de Ensino Básico em conjunto com a SEB/MEC, e com a Capes e DIRED para a revisão do currículo da EB; (lii) promoção de melhor acesso dos estados e municípios às bases de dados para pesquisas e estudos pelas redes de ensino e disponibilização de documento orientador sobre avaliação EB para profissionais em educação (liii) atualização do Saeb permitindo monitoramento dos resultados da política de educação e subsidiando o cálculo do Índice de Desenvolvimento da Educação Básica. (liv) desenvolvimento de estudos comparativos nacionais e internacionais, sobre os avanços dos resultados das pesquisas internacionais (Pisa e Terce) e a aplicação da metodologia TRI de um parâmetro para a elaboração de escala de proficiência. (lv) estudos inovadores para temas em avaliação da educação básica com a: inclusão das escolas rurais na Prova Brasil, a partir de 2009 com a elaboração e/ou revisão de instrumentos para a aplicação da Prova Brasil; e pré-testes para a Provinha Brasil e elaboração de materiais e Kit Provinha Brasil, (lvi) aporte de conhecimentos em reuniões internacionais promovidas por: LLECE (Uruguai); Governo Equatoriano; e UNESCO/OREALC. (lvii) apoiou a realização de inovações no Enem, que passou a constituir também instrumento de acesso às IES, dependendo da adesão ou não da IES. (lviii) planejamento e operacionalização da montagem dos cadernos de testes do pré-teste de itens do Banco Nacional de Itens, bem como a composição dos cadernos de testes definitivos do Saeb e Prova Brasil. (lix) apoio ao Programa Internacional de Avaliação de Alunos (Pisa), que teve mais uma aplicação deste Exame. Contando com o apoio para a revisão dos questionários socioeconômicos e dos manuais de aplicação (lx) adequação dos instrumentos de aplicação utilizados no projeto piloto para a aplicação do pré-teste e para a aplicação definitiva do Pisa em computador. (lxi) implantação do projeto do SIGA (DTDIE) com a inclusão e seguimento definição de modelos de configuração, ajuste e personalização totalmente inovadores, e do Business Intelelligence (BI) (lxii) elaborados instrumentos metodológicos e de coleta de informações relativas ao desempenho das escolas e dos alunos indígenas nas avaliações Saeb/Prova Brasil, Provinha Brasil, Encceja e Enem, (lxiii) resultados de investigação da realidade educacional indígena permitiram a análise dos resultados da participação de escolas e alunos indígenas nas avaliações de educação básica (lxiv) desenvolvidos estudos para aprimoramento das avaliações nacionais, e estudos exploratórios e analíticos comparativos referentes aos resultados do Saeb em perspectiva comparada no período de 1995/ 2011; (lxv) apoio ao Celpe-bras promovendo por meio de exame a obtendo de Certificação de Proficiência em Língua Portuguesa para Estrangeiros, Comentários finais de eficácia do Projeto: O grau de eficácia do projeto foi avaliado como medianamente satisfatório, considerando as importantes contribuições e sinergias alcançadas com os demais programas e iniciativas do Inep e MEC; e com parceiros relevantes no setor educacional, nos três níveis político administrativos. Entretanto, caberia reconhecer que as ações voltadas à realização de censos, avaliações e estudos nacionais desenvolvidas com apoio do projeto, representam iniciativas estratégicas (poucos recursos) frente à magnitude de recursos humanos, financeiros e operacionais 8 disponibilizados pelo Governo brasileiro, em suas instâncias federais, estaduais e municipais; e face aos recursos alocados no Inep. Ao longo dos dez anos de execução, esse projeto apoiou estrategicamente (com conhecimentos, informações e recursos humanos) a implementação de novas políticas para melhorias na qualidade da educação brasileira. Estas contribuições podem ser identificadas nos diagnósticos, avaliações e propostas do Plano de Desenvolvimento da Educação, lançado em 2007, e no PNE (2001 – 2010); bem como o novo PNE 2014/2024 que foi elaborado em 2010. Por meio da avaliação dos Resultados obtidos, se constatou que o projeto vem produzindo, juntamente com o Inep/MEC: melhores instrumentos de articulação; institucionalização; produção de conhecimentos; rede de parceiros nacionais; sensibilização e capacitação de gestores e atores; e ampliou a capacidade de multiplicação dos temas do projeto por meio dos documentos orientadores a outros parceiros, nas instâncias estaduais e locais. Portanto, o apoio do projeto tem contribuído para o fortalecimento do enfoque de: inclusão, melhorias de qualidade e priorização da educação em políticas sociais no Brasil. A cooperação apoiou o Inep por meio de melhorias de processos e de novos instrumentos para a implementação de políticas públicas em desenvolvimento educacional, tais como: (i) consolidação de redes e processos de parcerias para elaboração, negociação e aprovação dos Censos, Avaliações e Estudos; (ii) capacitação formal de parceiros e gestores de educação por meio de estudos, pesquisas, experiências inovadoras e documentos orientadores; (iii) constituição de memória técnica e capacitação institucional para a proposição de cenário da educação brasileira nos próximos anos (Século XXI); (iv) constituição ou fortalecimento de sistemas e tratamento de informações; (v) apoio à renovação de capacidades técnicas, de liderança e de colaboração setorial, intrasetorial e intersetorial com parceiros relevantes; (vi) criação e consolidação de experiências inovadoras em nível local. Eficiência. Os 06 Resultados e 27 Produtos executados (com 133 atividades) inicias foram tecnicamente adequados às necessidades do setor, tendo produzidos, em geral, com ampliações de prazo; e com custos razoáveis para promover as condições favoráveis de contribuição para o alcance do Objetivo do Projeto, ao longo dos 10 anos de execução. A Matriz original de atividades e produtos pode ser avaliada como muito ambiciosa. Na versão final do projeto foram identificados 05 Resultados e 11 Produtos. A previsão de custos iniciais de cada atividade foi adequada, no desenho do Projeto, tendo sido o orçamento total do Projeto ampliado em quase 55% por meio da Revisão G de 2007, com a inclusão de dois novos Resultados. Ao mesmo tempo essa revisão G adicionou cerca de US$ 9,1 milhões no orçamento, decorrente da transferência de recursos residuais devido à conclusão de três cooperações técnicas em 2007. Em 2010 foi realizada a redução de cerca de US$ 5, 6 milhões dos recursos da cooperação, promovendo um ajuste importante em atividades do projeto. Em relação ao tempo para a obtenção de insumos (consultores e sistema) das atividades e alcance de Resultados, pode-se indicar que não foram compatíveis com os tempos observados em outros Projetos PNUD, desenvolvidos por outras instituições. Entretanto, se mostram compatíveis com o tempo de execução do Inep para três projetos prévios executados, que consumiram em média de 7 a 8 anos. Em grande parte dos processos de licitação foram constatados importantes atrasos para a realização das atividades; processos de contratação de empresas de consultoria e consultorias individuais. Nos últimos quatro anos houve melhora significativa nesses tempos de execução de processos licitatórios, ainda que a instituição encontrasse dificuldades para contar com até três profissionais com muita expertise em temas específicos e de alta complexidade como de exames, avaliações e pesquisas. O cronograma de planejamento e de execução das atividades foi apresentando atrasos importantes, bem como gerando disfunções importantes no fluxo de empenhos e desembolsos. O processo de aprovação de licitações para contratos de consultoria de pessoas físicas e jurídicas tem apresentado fortes atrasos, devido ao lento processo interno ao PNUD e parceiros nacionais. A gestão financeira e administrativa do projeto, assegurada pela UGP/GAB foi considerada, como eficiente, devido a contar com profissionais com vasta experiência em execução de projetos e com memória dos projetos previamente desenvolvidos pela instituição. A cooperação enfrentou situações internas que reduziram a capacidade operacional da instituição para a execução de montantes importantes, muito mais devido às mudanças institucionais do que pela falta de recursos orçamentários. 9 Os custos médios de realização das atividades de consultoria, capacitação, realização de eventos, seminários e obtenção de sistemas se encontram, em sua maioria, de acordo com os valores aplicados para o mercado de consultoria no Brasil, especialmente, no tocante a contratação de equipes ou profissionais para a promoção de estudos, avaliações, seminários e capacitações. Entretanto, constatam-se reduzidos desembolsos em relação ao planejado até a Revisão P em 2011 e importantes atrasos no cronograma de execução das ações do Projeto. Com a mudança do quadro institucional e técnico no Inep, por meio da realização de concursos públicos, e de maior relevância técnica das informações do Instituto para as políticas públicas, passou a existir maior grau de eficiência apoiado na redução de número de consultorias e de tempo de atrasos no acompanhamento de processos. Esses elementos aportaram maior eficiência e maior grau de satisfação dos beneficiários diretos da cooperação. Na prática, o projeto executou 82,5 % dos recursos disponibilizados até dezembro de 2014, com perspectiva de desembolsar os cerca de US$ 15,6 milhões até o final do projeto, quando poderia atingir 84,5%. Sua eficiência permitiu que as atividades e produtos realizados pudessem contribuir para o alcance de resultados e efeitos esperados, com a conclusão da cooperação técnica. O projeto alcançou com custos adequados e com importantes atrasos, determinados resultados e efeitos de curto prazo esperados. O cronograma original de execução do projeto foi sendo atualizado pelos Planos de Ação anuais executados pelo Inep e acordados com o PNUD e ABC. Os produtos e as ações implantadas previstas nos Planos de Ação passaram a partir de 2011 a estar de acordo com a capacidade de execução e de gerenciamento dado Inep, com apoio do PNUD. Entretanto, não foi efetivamente observada no Inep a capacidade de execução proposta nos planos anuais e nas revisões substantivas por diferentes motivos. O projeto apresentou adequação anual do cronograma originalmente proposto, visto que este foi sendo atualizado, ao longo dos 10 anos. Este cronograma foi ampliado em 06 anos e meio em relação ao prazo inicial acordado. Em final de 2014 existiam ainda consultorias que não tinham sido concluídas e outras que se encontravam não iniciadas. Diversos foram os fatores internos e externos que contribuíram para uma baixa eficiência na implantação do projeto. Dentre os fatores poderia ser destacado com elevado efeito negativo o de frequentes mudanças nas autoridades do setor e de mudanças na própria instituição. Em 2013 o total de servidores efetivos alcançou cerca de 390 funcionários. Esta situação indica que cerca de mais de 90% da força de trabalho do Inep hoje é constituída por servidores de carreira (efetivos e temporários) ainda que se mantenham colaboradores terceirizados, e empresas prestadoras de serviços. Esta situação permitiu que nos últimos anos o Inep passasse a apresentar maiores condições de desenvolvimento de estudos e pesquisas. Em termos de contratos realizados ao longo de toda a cooperação técnica, a UGP/GAB informou que foram os seguintes: (i) 2005: 32 contratos; (ii) 2006:54 contratos; (iii) 2007: 59 contratos; (iv) 2008: 50 contratos; (v) 2009: 22 contratos; (vi) 2010: 10 contratos; (vii) 2011: 28 contratos; (viii) 2012: 38 contratos; (ix) 2013: 13 contratos e (x) 2014: 35 contrato. A execução do projeto durante os anos de 2012 ao final de 2014 foi apresentando melhoras importantes tanto na execução física quanto financeira de atividades programadas, obtendo determinados produtos relevantes para o alcance dos Resultados esperados do Projeto. Entretanto, os percentuais de execução foram bastante reduzidos em relação ao Programado. É possível verificar que a capacidade de execução do Inep de Projetos de Cooperação Técnica - que pode ser considerado como típico o período de 2010 a 2015- não superou o desembolso anual médio de US$ 1,5 milhão. Esse montante poderia ser tomado como referência de limite anual para a proposição de novos projetos, com até 03 anos de execução. Em relação ao período de 2009 a 2014, a programação de recursos orçamentários por Resultado ficou assim constituída: Resultado 01: US$ 9.873.465 milhões dos quais foram desembolsados cerca de US$ 3.115. 028 milhões Resultado 02: US$ 1.704.473 milhão dos quais foram desembolsados cerca de US$ 1.097.113 milhão Resultado 04: US$ 1.358.032 milhão dos quais foram desembolsados US$ 740.154 mil Resultado 05: US$ 1.680.424 milhão dos quais foram desembolsados US$ 628.191 mil Resultado 06: US$ 2.754.355 milhões dos quais foram desembolsados US$ 1.074.230 milhão 10 Desse modo em relação os totais desembolsados entre 2005 a 2015 por resultado, os montantes foram os seguintes: Resultado 01: US$ 4,90 milhões (32% do total) Resultado 02: US$ 4,00 milhões (25% do total) Resultado 03: US$ 1,42 milhão (9,2% do total) Resultado 04: US$ 2,05 milhões (13,3% do total) Resultado 05: US$ 1,72 milhão (11,2% do total) Resultado 06: US$ 1,29 milhão (9,3% do total) De acordo com os dados fornecidos pela UGP/GAB o total desembolsado de 2005 a 2015 foi de US$ 15.449.210 representando 82,5 % do total existentes em termos de orçamento total para o período de 10 anos, sendo que ficaram sem desembolsar cerca de US$ 3,0 milhões. Esse percentual poderá ser de 84% caso a execução esperada até o final da cooperação seja equivalente ao previsto. No período de 2009 a 2015 o Resultado que passou a concentrar maiores recursos foi o Resultado 01 (pela consultoria em Modelo de Gestão Estratégico), o que desembolsou mais em segundo lugar foi o Resultado 02.Seria importante destacar que o Resultado 06 passa a ter ampliada a sua participação na previsão de desembolsos (de US$ 800 mil no período anterior para US$ 2,8 milhões). Em termos da gestão do projeto e eficiência na implantação poderiam ser destacados os seguintes pontos que dificultaram o alcance de resultados e que não foram devidamente solucionados ao longo dos 10 anos de execução da cooperação, por motivos internos ao Inep e externos a respectiva alçada de competência: (i) Incompatibilidade entre os prazos requeridos para o processo de seleção, contratação e desenvolvimento dos serviços e apresentação dos produtos previstos (repetição de situações). (ii) Dificuldades na identificação de profissionais capazes de atender aos critérios mínimos para processos de seleção. (iii) Prazo de contratação de consultores limitado a 12 meses; (iv) Restrições do Acórdão TCU/1339 (Desenvolvimento de Sistemas). (v) Com relação aos resultados, por exemplo, no resultado 02 foi necessário reordenar as atividades que eram prérequisitos para efetuar uma revisão conceitual dos termos usuais nos Censos, como por exemplo, as atualizações ocorridas nos sistemas Educacenso e Censup. (vi) Com relação aos resultados, por exemplo, no resultado 06 houve atraso na disponibilização de bases de dados com impacto no cronograma de desenvolvimento de consultorias (vi) A execução do projeto foi fortemente prejudicada pela entrada pela portaria do MEC que exige que haja 03 consultores qualificados para cada seleção. Para fazer contratação de pessoa jurídica também se tornou complexo. O processo de implantação tem sido conjunto entre o Inep, ABC e PNUD permitiu a manutenção de canais de comunicação e colaboração permanentes, que tem contribuído para melhorar a implantação do Projeto. Existe uma transparência nos processos de gestão financeira por meio de informes emitidos pelo PNUD e observados pela ABC; os processos de licitação e seleção de consultores são realizados por meio de comissões internas, e existem atas disponíveis. Este projeto foi auditado em diferentes ocasiões pelo órgão de controle da União (CGU) 2007, 2009 e 2013 que identificou correções a serem feitas em relação, por exemplo, a: perfis dos consultores e informes de progresso. Não foram identificadas quaisquer disfunções em relação à administração de projetos em se tratando de contabilidade e finanças, gestão e qualidade técnica. Em relação à obtenção de produtos e implantação das atividades as auditorias fizeram referência aos atrasos nos processos e na entrega de produtos; bem como a baixa capacidade de execução e de planejamento, resultando em baixo grau de execução financeira O grau de eficiência da implantação do Projeto pode ser considerado de regular a medianamente satisfatório considerando os esforços significativos feitos pelos colaboradores do projeto ao longo da execução Entretanto, constatam-se reduzidos desembolsos em relação ao planejado; importantes atrasos no cronograma de execução das ações do projeto; e reduzida integração entre as distintas Diretorias e com a carência de monitoramento e avaliação de Resultados alcançados, não só de produtos e atividades. Na prática, o projeto executou 82% dos recursos disponibilizados. Alcançou com custos, recursos humanos e financeiros adequados e com importante atraso determinados resultados e efeitos de curto prazo esperados, para estes 10 anos do projeto, nos respectivos eixos de atuação. 11 Impacto Seria importante salientar que o Projeto ao longo de 10 anos atuou de forma complementar e subsidiariamente aos Programas e Projetos que integraram os Planos de Ação do Ministério da Educação (incluindo o FNDE) e do Inep. O montante de recursos alocados nos últimos 10 anos na área de educação representam no mínimo o percentual anual de aplicação constitucional no setor. Como exemplo, o orçamento do INEP. Orçamento aprovado em 2014 para manutenção e desenvolvimento do ensino esteve na ordem de R$ 82 bilhões, sem emendas ou créditos suplementares. O valor total do Orçamento da União para 2014 foi de R$ 2,48 trilhões. Do total previsto para 2014, R$ 654,7 bilhões foram previstos para o refinanciamento da dívida pública. Em 2011 o orçamento final do Inep foi de R$ 566.590.594,00 sendo que quase R$ 120 milhões foram adicionais por meio de transferência do FNDE para realização de determinadas iniciativas. Em 2010 o orçamento assegurado pelo Tesouro foi de R$ 420 milhões. O Orçamento do Inep, nos últimos exercícios, tem sofrido significativas alterações, sobretudo devido as constantes mudanças nas metodologias de aplicação de seus principais exames, oriundo de demandas do Ministério da Educação, aliado a constante necessidade de aprimorar e aperfeiçoar os processos relacionados. Em 2012, o orçamento do Inep junto ao Tesouro Nacional foi de R$ 746.371.372,00 e contou com transferências adicionais do FNDE. Como consequência, a necessidade de ajustes orçamentários tem sido uma constante no decorrer dos exercícios, apesar do orçamento destinado ao Órgão, na ocasião das Propostas Orçamentárias, tentar refletir a real necessidade. Outro fator que influencia as diferenças entre os orçamentos a cada ano está no fato de alguns exames serem aplicados de forma sazonal, com intervalos de 2 ou 3 anos. E se compararmos o orçamento do MEC, do Inep e o do Projeto, cuja estimativa anual seria de R$ 3 milhões (variando segundo o câmbio do US$) pode ser verificado que as contribuições do Projeto em termos de impacto nos últimos 10 anos tem e feito de modo sinérgico, sendo que a contribuição efetiva tem ocorrido por meio do aporte de conhecimento e expertise de consultores individuais em estudos de alta complexidade técnica e que exigem elevada experiência no tema de relevância, inovação e de importância estratégica para as avaliações, exames e censos aplicados pelo INEP. Desse modo, os avanços que foram sendo alcançados no setor de educação contaram com estudos pontuais e técnicos elaborados pelos consultores do projeto, dando respostas de natureza mais operacionais e conceituais para a interpretação, análise e avaliação de resultados de instrumentos, exames, metodologias e censos educacionais promovidos no âmbito das competências do Inep. Entretanto, seria importante recordar que o projeto apresentou como base institucional ou marco de referência, entre 2005 e 2014, o Plano Nacional de Educação 2001/2010, ainda que em 2011 já tivesse sido obtido o delineamento do novo PNE- inicialmente previsto como 2010/2021, - mas que somente foi aprovado em junho de 2014, passando a ser referenciado como PNE 2014/2024. O Projeto também contribuiu de forma indireta (via MEC) e direta para que determinadas metas e diretrizes do PNE pudessem ir sendo alcançadas, por meio de seus estudos, censos e avaliações e com isto fossem sendo incorporadas melhorias no processo de ensino aprendizagem, como o foi a partir dos Censos Educacionais, em Educação Básica e Superior. Nesse contexto, os resultados do projeto contribuíram para que os objetivos do PNE fossem sendo alcançados promovendo: (i) elevação do nível de escolaridade da população; (ii) melhoria da qualidade do ensino em todos os níveis; (iii) redução das desigualdades sociais e regionais no tocante ao acesso e à permanência, com sucesso, na educação pública; e (iv) democratização da gestão do ensino público, nos estabelecimentos oficiais. O PNE propôs metas importantes para mudar o quadro educacional brasileiro, tais como erradicar o analfabetismo do país. Para cumprir essas metas, em dez anos, previa a necessidade de garantir recursos, além da necessidade de implementação de ações, tais como: (i) elaborar padrões mínimos nacionais de infraestrutura para a educação; (ii) integrar recursos do poder público destinado à política social; (iii) ampliar as oportunidades de acesso à educação profissional; (iv) generalizar, em dez anos, o atendimento dos alunos com necessidades especiais; (v) criar a categoria oficial escola indígena para modelo de educação intercultural e bilíngue; (vi) promover a revisão dos cursos de formação inicial para professores e eliminar professores leigos no ensino; e (vii) garantir a disseminação das novas tecnologias educacionais nas escolas. Assim, ao longo de 10 anos, o PNE passou a orientar significativos recursos do orçamento nacional para educação envolvendo não somente o Ministério da Educação, mas outros Ministérios atuantes em questões de política social, como por exemplo: Saúde, Esporte, Desenvolvimento Social, Direitos Humanos e Justiça. Como Poe ser verificado, as ações do Projeto apoiaram estudos e iniciativas do Inep, que contribuíram para a melhoria do alcance de metas e 12 diretrizes do PNE. Em anexo se encontra a listagem dos consultores contratados e os estudos realizados, permitindo identificar as contribuições para a melhoria da qualidade da educação nacional. O Plano de Metas “Compromisso Todos pela Educação” estabeleceu 28 diretrizes, baseadas em estudos sobre boas práticas de redes e escolas. Foi operacionalizado, com cada ente federado, por meio da assinatura de um termo de adesão, visando o cumprimento de metas estabelecidas a partir do Índice de Desenvolvimento da Educação Básica (Ideb). Este indicador combina resultados de desempenho e aprovação de alunos do ensino fundamental e médio. De acordo com o Inep e o Ipea, o Ideb possibilitou identificar as redes e as escolas públicas com os mais baixos índices que passaram a ter prioridade nas transferências voluntárias da União, sendo que estes dados do IDEB também passaram a constituir o elemento orientador para a distribuição dos fundos por meio do FNDE. As informações sobre o Ideb foram sendo disponibilizadas no site do Inep ao longo dos últimos anos, permitindo aos especialistas utilizar esses dados para a formulação de programas, projetos e ações de melhoria do Ensino Básico. A partir de 2015 tornou-se possível que as escolas públicas brasileiras pudessem passar a contar com uma ferramenta amigável para compreender melhor seus resultados refletidos no Índice de Desenvolvimento da Educação Básica (Ideb). Desse modo, se encontra disponível na página do Instituto um novo painel, desenvolvido para contextualizar os desempenhos das escolas. Este sem dúvida constitui um dos importantes impactos que o Projeto contribuiu para seu alcance, com reflexos importantes no processo de qualificação do ensino e de melhores acessos da população estudantil, nas faixas de obrigatoriedade de promoção da educação pelo Estado brasileiro, de acordo com os direitos do cidadão. Além dos resultados do Ideb, divulgados ao longo das cinco edições do indicador, será possível conferir informações coletadas pelo Censo Escolar da Educação Básica e novos indicadores criados pelo Inep. Essas informações permitem identificar o contexto social em que as escolas estão inseridas e indicar que, em certo grau, independentemente das condições do alunado, é possível apresentar bons desempenhos. Cada escola pode conferir sua situação em relação a quatro novos indicadores criados pelo Inep: de nível socioeconômico; de adequação da formação docente; de esforço docente, e de complexidade da gestão escolar. O Projeto desenvolveu estudos que apoiaram a seleção de indicadores e suas contextualizações; bem como, apoiou os estudos, testes e informações a integrar os censos de educação básica, em tempo real. As ações programáticas do Inep (resultados de exames, avaliações e censos) também subsidiam as destinações do Fundeb constituído em 20 de junho de 2007, como o Fundo de Manutenção e Desenvolvimento da Educação Básica e de Valorização dos Profissionais da Educação. Este Fundo está atendendo cerca de 50 milhões de alunos da educação básica, desde 2010. O Plano de Desenvolvimento da Educação (PDE) propôs a erradicação do analfabetismo e o progressivo atendimento a jovens e adultos no primeiro segmento de educação de jovens e adultos, até 2017. Dessa forma, a alfabetização de jovens e adultos passou a ser vista como responsabilidade solidária da União com Estados, Distrito Federal e Municípios, visando à erradicação do analfabetismo no país. Nesse conjunto se encontram ações do Inep em relação ao EJA e ao Ensino Básico. Por meio do Projeto foram sendo apoiados estudos para subsidiar os exames, avaliações e censos da Educação Básica. No âmbito da avaliação educacional, podem ser identificadas ações relevantes como a realização pela primeira vez, em 2005, pelo INEP, da Avaliação Nacional do Rendimento Escolar (ANRESC), também denominada Prova Brasil. Esta avaliação concentra-se nos alunos de 4º e 8º séries de todas as escolas públicas urbanas, permitindo a cada escola conhecer o desempenho dos seus alunos. A Prova Brasil não substitui os exames amostrais conduzidos a cada dois anos, e que se denominam Avaliação Nacional da Educação Básica. Para apoiar à ampliação da cobertura e melhoria da qualidade nesse nível de ensino, o Governo federal por meio do MEC voltou-se para continuidade, do Exame Nacional do Ensino Médio (Enem), cuja função tem sido a de avaliar as competências e habilidades desenvolvidas pelos estudantes ao término da Educação Básica e permitir o acesso ao ensin0 superior, por meio das instituições que aderirem ao Exame. O Projeto apoiou ao planejamento do exame, promovendo junto com as ações do Inep importantes melhorias em termos de conteúdos, processos e de avaliações dos resultados obtidos. Esta mesma situação é aplicada a um conjunto importante de estudos, avaliações, exames, certificações de competências, levantamentos que o Inep realiza sob demanda do MEC. Nesse contexto, os impactos aportados pelos estudos realizados vêm aportando melhores capacidades técnicas e operacionais ao Inep para subsidiar a formulação de políticas públicas. 13 Na realidade a avaliação de impactos da implementação das políticas públicas vem sendo realizado pelas áreas competentes do Ministério da Educação e do Ministério do Planejamento, que indicam melhoras significativas na qualidade da educação em todos os seus níveis de atendimento por meio de programas públicos. Portanto, o Inep tem contribuído para que esse atendimento de cerca de 55 milhões de estudantes ocorra em condições previstas nos Planos de Educação e produzindo informações para um retrato da situação do Ensino Básico e do Ensino Superior no País. Importantes colaborações do Projeto foram aportadas em temas educacionais como: Assim o Projeto promoveu efeitos contributivos às ações de competência do Inep como: (a) Censo Escolar; Os dados levantados são fundamentais para a formulação de políticas educacionais nas três esferas de governo, para elaboração de novos diagnósticos sobre a educação no Brasil, e constituem a base de cálculo dos coeficientes para a distribuição dos recursos do Fundo de Manutenção e Desenvolvimento da Educação Básica e de Valorização dos Profissionais da Educação (Fundeb) e dos programas educacionais do MEC. Além disso, os dados sobre movimento e rendimento, coletados logo após o encerramento do ano letivo, juntamente com o desempenho escolar obtido nas avaliações realizadas pelo Inep (Saeb e Prova Brasil), integram o cálculo do Índice de Desenvolvimento da Educação Básica (Ideb), indicador que serve de referência para as metas do Plano de Desenvolvimento da Educação (PDE); (b) Censo Superior: Os dados do Censo da Educação Superior (a partir de 2009/2010) têm servido de base para novas séries estatísticas e para a elaboração de indicadores sobre a produtividade e a qualidade da educação superior no Brasil e para formular novas políticas para o ensino superior. (c) Laboratório e Prêmio de inovação em Gestão Educacional: Em parceria com SEB/MEC e FNDE, além da participação da UNESCO e Undime, o Inep promove, no âmbito do laboratório, o Prêmio de Inovação em Gestão Educacional (realizado pela primeira vez em 2006, com sua segunda edição em 2008), que é o principal meio de prospecção de experiências do laboratório e tem a função de incentivar e valorizar tais iniciativas, além de divulgar experiências de sucesso. (d) Exame Nacional do Ensino Médio (Enem): exame facultativo aos que já concluíram e aos que estão em vias de concluir o ensino médio. Os resultados do exame são utilizados pelos estudantes como uma das formas de ingresso em instituições de ensino superior públicas e privadas, além de serem um dos pré-requisitos para a obtenção das bolsas de estudos do Programa Universidade para Todos (Pro Uni). (e) Sistema Nacional de Avaliação da Educação Superior: o Sinaes é o instrumento de avaliação superior formado por três componentes principais: a avaliação das instituições, dos cursos e do desempenho dos estudantes (Enade). Os resultados produzidos pelo Sinaes têm por finalidade avaliar a qualidade dos cursos ofertados no País e subsidiar os processos de regulação e supervisão da educação superior realizado pelo Ministério da Educação. (f) Celpe-Bras: outorgado pelo MEC, o Celpe-Bras é o único Certificado Brasileiro de Proficiência em Português como língua estrangeira, reconhecido oficialmente. Desde 2009, o Inep é o responsável pelo exame, por meio da Diretoria de Avaliação da Educação Básica, sendo realizadas duas edições anuais. (g) Programa Internacional de Avaliação de Alunos (Pisa): é um exame amostral, realizado a cada três anos pela Organização para Cooperação e Desenvolvimento Econômico (OCDE), e tem por objetivo principal fornecer aos países participantes os indicadores comparativos internacionais, a fim de subsidiar políticas de melhoria da educação. Vinte mil estudantes brasileiros nascidos em 1993 responderam em 2010 as provas de Leitura, Matemática e Ciências. Serve como elemento para aprimorar a qualidade da educação em relação ao contexto internacional. (h) Terce - Organizado pelo Laboratório Latino-americano de Avaliação da Qualidade da Educação (LLECE) da UNESCO/Santiago, identifica as características dos estudantes, das turmas, das escolas, dos professores e das famílias dos alunos que estão associadas ao desempenho, dando ênfase a fatores que possam gerar políticas de melhoria da qualidade da educação. O Terce avalia as 3ª e 6ª séries do ensino fundamental nas disciplinas de Matemática, Linguagem (leitura e escrita) e Ciências. O Terce ocorre uma vez a cada três anos. Em 2011, LLECE com apoio do Projeto fomentou diversas atividades entre elas estão a elaboração e a revisão de itens para a aplicação e o pré-teste piloto em Brasília. (i) Prova Nacional de Concurso para Ingresso na Carreira Docente: Trata-se de avaliação para subsidiar Estados, Municípios e o Distrito Federal em seus processos de admissão de docentes para a educação básica, além de subsidiar políticas públicas de formação continuada e auxiliar na avaliação da formação inicial. Em 2012 foi realizada a aplicação do pré-teste da avaliação, bem como a chamada pública para que Instituições Federais de Ensino Superior pudessem contribuir com a composição do Banco Nacional de Itens da Avaliação.O projeto apoiou esse tema por meio de estudos e proposta de pré-teste , banco de itens e perfil de docentes envolvidos no concurso. (j) Pesquisa Internacional sobre Ensino e Aprendizagem (Talis). Trata-se de uma pesquisa coordenada internacionalmente pela Organização para Cooperação e Desenvolvimento Econômico (OCDE). Coordenada pelo Instituto seu foco principal é o ambiente de aprendizagem e as condições de trabalho que as escolas oferecem aos 14 professores do ensino fundamental regular de 6º a 9º ano. A Pesquisa oferece aos professores e diretores a oportunidade de contribuírem para a análise da educação e para o desenvolvimento de políticas públicas educacionais. O projeto apoiou a elaboração dos questionários. Caberia destacar o relevante apoio dado pelo projeto ao longo dos últimos anos para a configuração e melhorias a serem introduzidas para a manutenção do Banco Nacional de Itens (BNI), um acervo de itens de provas associados a uma série de informações que permitem a montagem de testes capazes de estimar, com maior precisão, a proficiência dos estudantes. Todavia, sempre existe a demanda de uma maior quantidade de itens com evidente qualidade técnica para a ampliação do banco, para melhor atender às necessidades das avaliações. A estratégia para ampliação do BNI se fundamentou nas parcerias firmadas com especialistas e Instituições de Ensino Superior – IES em todo o país, por meio do cadastro de colaboradores do BNI criado por chamada pública em 2010 e por Termo de Cooperação firmado com as IES. Importantes efeitos são esperados nos próximos anos desta manutenção e renovação permanente do BNI. Foram apoiados ações e estudos que trouxeram efeitos na realização de outras avaliações e exames promovidos pelo Inep e que aportam efeitos de curto prazo nas melhorias introduzidas em políticas públicas, resultantes dos dados coletados nessas iniciativas para melhorias na qualidade do processo de ensino-aprendizagem: (i) Exame Nacional para Certificação de Competências (Encceja): exame produzido pelo Inep e disponibilizado em parceria com as unidades da federação interessadas. O Encceja oferece certificação aos jovens e adultos que não puderam concluir os estudos na idade apropriada, mas adquiriram as competências correspondentes ao ensino fundamental; (ii) Exame Nacional de Proficiência em Libras: acontece nas 27 capitais da Federação o exame para a certificação de professores que possam exercer o magistério superior, atendendo à necessidade de inclusão de Libras como disciplina de todos os cursos de formação de professores e de fonoaudiologia; (iii) Sistema Nacional de Avaliação da Educação Básica (Saeb): avaliação padronizada de desempenho, por amostragem, do ensino fundamental e médio, realizada a cada dois anos em todo o sistema regular nacional. A partir das informações do SAEB, o MEC e as Secretarias Estaduais de Educação podem definir ações voltadas para a correção dos problemas identificados e dirigir seu apoio técnico e financeiro tanto para o desenvolvimento e aperfeiçoamento das redes de ensino, quanto para a redução das desigualdades ainda existentes no sistema educacional; (iv) Prova Brasil: avaliação padronizada de desempenho, universal, da rede pública de ensino regular fundamental, realizada a cada dois anos; O objetivo do Saeb/Prova Brasil é obter um diagnóstico do sistema educacional brasileiro, sendo que os resultados produzidos subsidiam a formulação de indicadores como o Índice de Desenvolvimento da Educação Básica (Ideb) que, a partir da combinação dos dados de fluxo escolar, especificamente as taxas de aprovação e os dados de desempenho escolar, possibilitam acompanhar a evolução da qualidade da educação ofertada. (v) Provinha Brasil: tem como objetivo oferecer um instrumento de diagnóstico para professores e gestores, do nível de alfabetização atingido por alunos, turmas ou escolas e deverá ser aplicado entre o segundo e terceiro ano de escolarização; (vi) Exame Nacional de Desempenho dos Estudantes (Enade): exame nacional aplicado aos alunos iniciantes e concluintes de cada curso de graduação. Cada área é avaliada a cada três anos pelo Enade (ciclos); (vii) Avaliação Institucional: compreende a análise dos dados e informações prestadas pelas Instituições de Ensino Superior (IES) no Formulário Eletrônico e a verificação, in loco, da realidade institucional, dos seus cursos de graduação e de pós-graduação, da pesquisa e da extensão. Com tamanha produção de dados, o Inep tem atuado no incentivo à formação de pesquisadores aptos a estudarem os dados da educação brasileira, bem como estabeleceu parcerias com instituições de pesquisa interessadas no desenvolvimento de núcleos voltados à pesquisa educacional com foco em política pública. De acordo com entrevistas realizadas e consulta aos relatórios do projeto se constata um elevado grau de contribuição dos estudos do projeto para o alcance do Objetivo de Desenvolvimento (OD), que se manteve inalterado ao longo de dez anos, ainda que o desenho do Projeto tenha evoluído, em especial depois de 2009, com uma nova natureza de estudos mais operacionais para atendimento das competências do Inep e respectivas contribuições para a formulação e contribuição para as políticas públicas nacionais em educação. Assim, se pode avaliar que o projeto tem contribuído com elevado grau para o alcance do Objetivo de Desenvolvimento, o qual vem orientando também as ações do Inep ao longo da última década. Os efeitos a serem alcançados deverão continuar a atuar em sinergia com os demais projetos e investimentos públicos em Educação para: -Reestudo de parâmetros indicadores da situação educacional brasileira, a partir de pesquisa de outros instrumentos que, apresentando uma avaliação qualitativa, possam promover o cruzamento com as avaliações de desempenho do sistema e apresentar um diagnóstico mais real dos problemas educacionais; -Tratamento, armazenamento e disseminação de tais pesquisas e estudos, visando à socialização das ações educativas pela participação efetiva de todos os atores educacionais; 15 -Acolhimento de formas alternativas de escolarização e de educação não formal não só como realidades a serem consideradas nas estatísticas educacionais, mas, também, como inscrição formal do conceito de inclusão nos parâmetros educacionais brasileiros. O projeto contribuiu para fortalecer as capacidades do Inep em encontrar soluções para problemas existentes no processamento dos exames, avaliações e metodologias nacionais para subsidiar as políticas públicas. O Inep deverá continuar nos próximos anos contribuindo na elaboração de novas políticas e programas baseados em evidências. A disponibilização de informações e dados coletados, de acordo com metodologia acordada com o MEC e com conjunto importante de parceiros deverá dar melhores condições de sustentabilidade aos resultados obtidos pelo projeto, na área de educação. Espera-se que nos próximos anos os impactos deste projeto- em sinergia com as demais intervenções do Inep, MEC e outros parceiros no setor de educação - possam se melhor identificados e acompanhados pelo Inep, por meio de monitoramento pós conclusão dessa cooperação. Após cinco anos, seria recomendável que fosse realizada uma avaliação pós-conclusão da cooperação para medir os contínuos avanços nos indicadores de avaliação da qualidade da educação brasileira. Nesse sentido, o apoio do Inep na avaliação da execução do PNE 2014/2024 poderia apoiar o monitoramento desses efeitos do BRA/04/049. Sustentabilidade Ainda que não tenha sido possível identificar uma estratégia de sustentabilidade no desenho inicial da cooperação, esta sustentabilidade se encontra presente pela garantida em grande parte dada a relevância do tema pelo o Governo brasileiro. Todos os produtos obtidos foram orientados para serem apropriados pelos servidores e funcionários de carreira do Inep, que acompanharam a sua elaboração. Os resultados alcançados com as consultorias realizadas foram sendo imediatamente incorporadas às práticas de exames, avaliações ou metodologias educacionais (após validação) promovidas em adequação às políticas públicas e programas de educação do Ministério da Educação. Entretanto, a própria evolução na execução do projeto ao longo de 10 anos promoveu um conjunto de ações voltado para a sustentabilidade dos efeitos, após conclusão da cooperação com o PNUD. À medida que as atividades foram desenvolvidas com apoio de consultores externos, as equipes de servidores do Inep trabalharam em conjunto com estes profissionais. Nesse contexto, funcionários efetivos da instituição adquiriram melhores oportunidades para desenvolverem novos estudos, instrumentos, mecanismos e levantamentos, de forma independente de consultorias externas. Esses procedimentos permitiram a operacionalização imediata dos conhecimentos gerados pela consultoria em temas de alta complexidade técnica e apropriados pelos profissionais da instituição. Portanto, em termos institucionais, a sustentabilidade dos resultados alcançados pode ser comprovada nos últimos anos, com a apropriação dos resultados dos estudos em iniciativas de grande visibilidade no país, como: censo escolar e de ensino superior; banco de itens, concurso para docentes, questionários e indicadores. Ademais, a ampliação de servidores efetivos na Instituição também constituiu um fator positivo para assegurar a sustentabilidade dos resultados do Projeto, a curto e médio prazo. Caberia destacar novamente, que os recursos orçamentários do Inep têm sido ampliados em cerca de 20 a 25% anualmente, bem como sempre que necessário são asseguradas as transferências de recursos adicionais originários do FNDE, de modo a viabilizar a execução de iniciativas relevantes para o acompanhamento dos avanços da educação nacional, em especial a básica, em todo o território nacional. Como os recursos do Fundo são assegurados por legislação nacional, caso ocorram reduções no orçamento anual do Instituto, seria alta a probabilidade de que o Fundo pudesse ampliar o montante da transferência para a realização de levantamentos, censos e avaliações. A sustentabilidade dos Resultados obtidos depende de um conjunto de fatores desde os estágios iniciais da cooperação: (i) capacidade institucional, política e técnica assegurada desde o estágio inicial; (ii) apropriação nacional dos objetivos e dos resultados do projeto; e (iii) estabilidade de recursos humanos e financeiros. Estes três elementos foram garantidos ao longo do Projeto, de modo que puderam ser obtidas as condições de integração dos Outcomes nas políticas nacionais e junto aos diferentes parceiros que apoiam a implantação da Política Nacional de Educação e do PNE 2014/2024. Como visto, os Resultados obtidos foram incorporados aos mecanismos e ferramentas da gestão institucional dos processos avaliativos, dos censos e metodologias elaboradas tendo sido disseminados e compartilhados com instâncias colegiadas de apoio e de cooperação na implantação das políticas e programas de educação. Entretanto, os estudos e resultados das consultorias não foram disseminados por meio do site da instituição; e não foram compartilhados, por exemplo, com centros de pesquisa. Este tema de constituição da linha editorial do Inep ainda 16 necessitaria ser trabalhado internamente, a partir de decisões das autoridades sobre o compartilhamento de determinados estudos e metodologias. As publicações disponibilizadas no site datam de 2007 a 2009. Os produtos resultantes da ação do Projeto se encontram respaldados por atender as metas e diretrizes do PNE 2001/2010 e 2014/2024, e as metas estabelecidas no PDE e programas prioritários do Governo para os próximos anos do atual Governo. Este fato asseguraria alta probabilidade de continuidade de ações e efeitos pela Inep e parceiros após a conclusão do Projeto. A sustentabilidade dos resultados alcançados tem sido garantida também pela constituição de rede de parcerias e colaboradores institucionais, com relativa disseminação e compartilhamento de estudos e pelas iniciativas do Inep não dependentes da cooperação técnica. Esta articulação e validação destes resultados pelos parceiros nas três esferas político-administrativas, internos ao Inep e ao MEC, e junto aos organismos internacionais, permitem a maior probabilidade de continuidade de iniciativas do Inep, acordadas na política nacional e que contaram com apoio do projeto, de modo suplementar ao conjunto de iniciativas integrantes dos planos de ação anuais do Inep. Talvez, um dos maiores desafios para a sustentabilidade das ações iniciadas com o projeto seja a continuidade das ações e dos compromissos acordados com os governos estaduais e municipais para responder as novas demandas e arranjos organizacionais para a execução de censos e levantamentos educacionais, ainda que o Inep repasse recursos para os estados, considerando as competências destas instâncias no sistema nacional de ensino. Nesse sentido, este desafio contaria com forte apoio do MEC para o sucesso desses compromissos. Um dos fatores de redução de risco para a sustentabilidade futura dos resultados do projeto foi a conclusão da cooperação ser coincidente com a o novo período Presidencial, e ainda estar em período de execução final durante a realização de eleições presidenciais e estaduais, em final de 2014. Para que o Inep aumente o grau de sustentabilidade das ações implantadas pelo projeto, um conjunto de ações deveria ser apoiado e integrado ao Plano de Ação do Instituto para consolidar produtos recentemente elaborados e demandas por estudos de alta complexidade existentes. No caso de permanecer para os próximos quatro anos praticamente o mesmo percentual do orçamento nacional para dar continuidade às ações decorrentes da execução da cooperação técnica, e a continuidade das iniciativas do projeto estaria com uma alta probabilidade de garantir a sustentabilidade, nos próximos anos. Em âmbito nacional, a atual estrutura de funcionários públicos das Diretorias poderia representar um componente restritivo para dar respostas às crescentes demandas dos atuais e novos censos, estudos, avaliações e outros mecanismos de obtenção de indicadores educacionais e insumos para os diagnósticos do setor; bem como, dar continuidade a estudos que possam subsidiar o monitoramento e a avaliação do PNE 2014/2024. Este crescimento de atendimento de demandas do setor deveria vir acompanhado de um incremento no número atual de servidores do Inep para o cumprimento de compromissos nacionais, com as metas do Plano; assim como com àquelas iniciativas internacionais em temas de educação. Caberia destacar que em geral, os entrevistados asseguraram que o Inep, após a finalização da cooperação teria alta probabilidade de garantir os recursos financeiros e técnicos necessários para a continuidade das ações, que contaram com apoio da cooperação, revelando esforço institucional positivo para a apropriação das iniciativas do projeto. Entretanto, seria conveniente para aumentar o grau de sustentabilidade dos efeitos do projeto que o modelo de gestão estratégica do Inep pudesse efetivamente ser implantado nos próximos 12 meses, visto que já passaram 48 meses sem que fosse operacionalizado. No relatório de gestão do Instituto para 2013 foram indicados passos realizados em relação à revisão e aos ajustes do Modelo, aprovado em 2012. Estes ajustes têm sido realizados a partir da elaboração de escritório de negócios posterior ao modelo (2012), atendendo às diretrizes do MEC sobre o tema. Em anexo se encontra um resumo do modelo de negócios e os ajustes processados no modelo de gestão. A sustentabilidade assegurada pelo Inep, sem apoio mais do projeto, para a continuidade de iniciativas passaria a depender da colaboração entre: (i) diferentes parceiros; (ii) de recursos do MEC, Inep e Fundo(s); e (iii) entre instituições dos poderes da instância federal e estadual. Esta continuidade de ações nos temas do projeto deveria ser ampliada. É reconhecida, pela administração pública, a necessidade do Inep em ampliar os recursos humanos para assegurar melhores condições de enfrentar os desafios existentes no setor, em temas de sua competência em todo o território nacional. Existe uma baixa a mediana probabilidade de ser obtida ampliação do número de servidores, por concurso público, nos próximos anos, devido às perspectivas de baixo crescimento da economia nacional. 17 Da avaliação e entrevistas realizadas estima-se que, nos próximos anos, após a conclusão do projeto, existe probabilidade dos seguintes arranjos de recursos institucionais e organizacionais para manter os resultados e efeitos alcançados pelo projeto: (i) apoio da alta gerência do INEP e MEC: alta. (ii) marco legal e regulamentos: meio alta. (iii) capacidade organizacional: média; (iv) capacidade intraorganizacional:média (dependência da implantação modelo de gestão); (v) capacidade interorganizacional: meio alta; (vi) disponibilidade de recursos financeiros: meio alta; (vii) suficientes recursos técnicos: meio baixa; (viii) recursos para manutenção de equipamentos e infraestrutura: meio alta; (ix) apoio dos beneficiários do Projeto: alta; (x) apoio do governo federal, estadual e municipal: alta. 2. Fatores contributivos para alcance de efeitos 2.1. – Fatores positivos os efeitos do Projeto. 2.1.1. – Fatores relacionados ao Desenho e Planejamento O desenho original do projeto contou com ações adequadas ao alcance de resultados e efeitos nos eixos temáticos do projeto, de acordo com o cenário e o marco de referência político e institucional, em 2004/2005. Neste sentido, as políticas governamentais e os compromissos para a implementação de melhorais na qualidade da educação foram os orientadores do desenho do projeto. A adoção de um desenho de projeto guarda chuva apresentou a vantagem de permitir que fossem sendo realizados atividades e produtos de modo muito pontual e em grandes volumes de iniciativas. Ao mesmo tempo, esse formato apresenta desvantagens para a focalização em determinado tema e atividades, para obter resultados mais delimitados. Ademais, as dificuldades decorrentes da carência de quadros técnicos e a perspectiva de finalização de duas Cooperações Técnicas desenvolvidas pelo Inep, também foram contribuíram para a proposição inicial de quatro Resultados. Estes resultados foram implementados como se fossem quatro subprojetos, ou seja, por diretoria. Posteriormente, com as mudanças na estrutura organizacional do Inep, em 2007, esses Resultados passaram de quatro a seis, envolvendo todas as diretorias, com competências complementares no processo de geração de estatísticas, tratamento e disseminação de informações; censos, avaliações e estudos e levantamentos especiais. Mesmo com estas mudanças frequentes, os seis Resultados em sua maioria mantiveram o desenho inicial, em que a estratégia de execução foi concretizada por Unidade Técnica em cada Diretoria. Portanto, o desenho do Projeto, depois da revisão G até a revisão P (2011), também manteve a proposição de ações para o fortalecimento do Inep, por meio do: (i) aprimoramento de informações para processos de planejamento; (ii) apoio à formulação de políticas públicas e aplicação de instrumentos de gestão estratégica setorial; (iii) aumento da produção de conhecimento e disseminação de informações sobre o estado do conhecimento da educação brasileira; e (iv) continuidade na colaboração com redes de atores estratégicos nos temas educacionais (EB e ES) para: censos, avaliações, pesquisas e estudos; (v) processos de participação e consulta a parceiros estratégicos para experiências inovadoras e melhorias da gestão educacional. No terceiro ano de implementação, com novas diretrizes para o setor, por meio do PDE, e as mudanças da estrutura organizacional do Inep, foi necessário proceder às modificações da proposta inicial. O desenho do projeto foi bastante flexível para incorporar tais mudanças decorrentes de fatores externos; como os atrasos na produção de insumos de produtos; e novas iniciativas (Provinha Brasil e Enem). Ao longo dos dez anos de implementação foram adicionados e/ou modificados Atividades, Produtos e Resultados, em acordo com as mudanças de políticas nacionais ou de novas ações de parte do Inep. Em 2009, foi cancelado o resultado 03 sendo que diversas atividades e produtos foram transferidos para outros Resultados, em função do rearranjo estrutural das diretorias do Inep. A previsão de reuniões tripartites de monitoramento e avaliação do projeto constituiu no desenho original uma instância de decisão conjunta, para permitir ao Projeto realizar algumas das ações recomendadas nestes eventos. Tendo sido foi realizadas somente com maior frequência as reuniões tripartites a partir de 2009. Essa iniciativa constituiu elemento facilitador na futura implantação do Projeto. 18 As áreas de fortalecimento institucional do Inep propostas adequadamente, pelo desenho de projeto, foram direta ou indiretamente: (i) estrutura funcional e organizacional; (ii) capacidade de sistemas de informações e tratamento e disseminação de dados; (iii) coordenação inter e intraorganizacional para: censos, avaliações, pesquisas e estudos; (iv) pessoal/desenvolvimento de recursos humanos; e (v) procedimentos de gestão, acervos e publicações. (vi) intercâmbio de experiências internacionais e nacionais nas áreas temáticas do Inep. O desenho original do Projeto previa a implementação total do Projeto em 36 meses, tendo sido ampliado para 10 anos, o que representou uma ampliação de 03 vezes o prazo inicial de execução. Este prazo inicial de 03 anos foi considerado muito reduzido para a produção de importantes Resultados do Projeto. Para tanto, o desenho permitiu a inclusão de novas atividades e a ampliação do prazo de execução. A estratégia desenhada para a execução do projeto propôs adequadamente o trabalho conjunto entre os servidores públicos do Inep e os consultores de longo, médio e curto prazo para a produção de estudos; pesquisas; censos; avaliações; publicações e propostas inovadoras em gestão educacional. Esses consultores foram substituídos por consultores por produto, considerados de curto prazo. A estratégia de execução também foi apoiada, direta e indiretamente, por: instâncias de diálogo institucional (MEC, SEE e SME) e de concertação social (Conselhos, Comitês, e Grupos de Trabalho); produção de conhecimentos para apoiar a elaboração de políticas públicas; sensibilização e capacitação de gestores estratégicos e colaboradores da educação para experiências inovadoras; constituição de iniciativas e estudos, em diferentes eixos temáticos, tais como: alternância, inclusão digital e indicadores educacionais. Outros fatores de desenho que favoreceram a obtenção dos resultados foram as estratégias propostas pela Equipe de Execução do Projeto, tais como: (i) constituição de redes de interlocução por Resultado, apoiando o Inep nos processos de elaboração e validação de iniciativas do projeto, que atuaram estrategicamente junto às ações do instituto para: censos, avaliações, levantamentos, estudos e pesquisas. (ii) instâncias de gestão técnica descentralizada por Diretoria e de gestão operacional pela Unidade de Gerenciamento do Projeto, gerando participação nas Diretorias de coordenadorias gerais, como pontos focais para aportar maior agilidade na implementação das ações, e no Comitê Executivo de Monitoramento e Avaliação de Projetos, criado em 2012; (iii) atividades de integração/colaboração com: Universidades, Centros de Pesquisa, Grupos de Trabalho, Comitês e Conselhos atuantes no tema, gerando relevantes contribuições; produtos e experiências; 2.1.2 – Fatores relacionados à execução. O desenho do projeto possibilitou a incorporação de dois novos Resultados, gerando condições de adaptabilidade às mudanças do cenário institucional do Inep, bem como de atendimento às novas demandas setoriais geradas por demandas do MEC. Nesse cenário, a introdução de pequenas modificações nas atividades, produtos e resultados atenderam tanto a mudanças de metodologia e política nacional; como de demandas e capacidades instaladas no Inep e no MEC. Esta é uma das vantagens dos projetos da modalidade “Guarda-chuva” que se apresentam muito amplos e em geral de longo prazo, ainda que permitisse incluir novas atividades e produtos aos Resultados de natureza mais amplos, como aqueles que foram utilizados no projeto. Ao mesmo tempo, essa modalidade apresenta a desvantagem de ser muito disperso nas ações realizadas. Os principais fatores que contribuíram positivamente à execução foram: (i) operacionalização da Unidade de Gerenciamento do Projeto com funções de coordenação administrativa e financeira; com instâncias compartilhadas de coordenação técnica com as demais Diretorias, contando com grupos técnico-operacionais de apoio nas suas respectivas unidades, e a criação em 2012 do Comitê Executivo junto a Presidência; (ii) reuniões esporádicas da Coordenação do projeto com as diretorias, parceiros nacionais, e agências de cooperação internacional para seguimento de avanços e dificuldades; (iii) processos de comunicação entre consultores, coordenação nacional, parceiros estratégicos e beneficiários diretos e indiretos do projeto apoiando a efetividade e eficácia do projeto; 19 (iv) seleção de consultores e centros de pesquisa com conhecimento e experiência no tema, tornando mais efetiva a execução das atividades e produtos alcançados pelo projeto; (v) apoio financeiro e técnico permanente da cooperação técnica de modo a suplementar a expertise do Inep em áreas de extrema complexidade, a partir de 2009; (vi) comprometimento institucional da UGP/GAB com as iniciativas e equipes técnicas; (vii) promoção de eventos e seminários de fortalecimento de redes de parcerias; bem como, de ações de capacitação de funcionários e gestores educacionais, nas diferentes instâncias político-administrativas, prévios a 2009; (viii) articulação entre os parceiros relevantes para a para a realização de ações estratégicas pelo Projeto; (ix) prioridades políticas e programas de Governo atuando de modo a potencializar os resultados e efeitos do projeto; (x) contextos sociais, políticos, institucionais, culturais e macroeconômicos muito favoráveis à implementação do projeto ao longo dos 10 anos; (xi) realização de encontros e seminários nacionais, internacionais ou regionais garantindo a comunicação e disseminação de conhecimentos entre parceiros estratégicos no tema, ainda no início do Projeto; (xii) participação e/ou promoção de eventos nacionais para a disseminação e compartilhamento de conhecimentos, experiências inovadoras e boas práticas; (xiii) excelente relacionamento profissional e interpessoal entre o Inep, parceiros estratégicos, equipes técnicas e consultores, aumentando a eficiência e efetividade do Projeto. (xiv) seleção de consultores com conhecimento e experiência no tema, tornando mais efetiva à execução de atividades e produtos do Projeto; (xv) apoio técnico da estrutura político institucional do Inep e MEC, em determinados períodos ao longo dos 10 anos; (xvi) alocação orçamentária do Inep garantindo execução financeira das atividades do projeto, superando a capacidade executiva e operacional; ainda que em determinados períodos tenham gerando excedente orçamentário anualmente; (xvii) colaboradores com muita experiência em execução de outros projetos de cooperação técnica; (xviii) execução operacional centralizada na UGP, sempre que possível, reduzindo: dificuldades na aplicação de legislação de licitações; tempo de aprovação de processos e contratos via PNUD/MEC; e controle físico-financeiro de execução de atividades e produtos; (xix) equipe técnica da UGP/GAB composta por número reduzido de profissionais, com memória técnica e institucional na gestão de projetos; (xx) flutuação positiva na taxa de câmbios nos anos nos últimos 10 anos. (xxi) ampliação de servidores efetivos do Inep por meio de concursos públicos nos últimos seis anos, com uma redução importante de número de consultores na instituição. Caberia destaque ao aporte à gestão do projeto, de conjunto de até 04 consultores que foram alocados ao Projeto BRA /04/049 nos últimos três anos, como apoio do Projeto MEC/PNUD para o fortalecimento das ações de cooperação técnica também no Inep, com recursos nacionais disponibilizados para essa finalidade específica, junto ao organismo multilateral. Esses consultores apoiaram no encaminhamento de propostas de termos de referência, acompanhamento de processos licitatórios e de seguimento de relatórios, pareceres e informes de avanços do Projeto, dando muito maior agilidade aos processos administrativos internos ao Inep e junto ao PNUD e ABC. 2.2. – Fatores restritivos aos efeitos do Projeto. 2.2.1 – Fatores relacionados ao Desenho e Planejamento. O desenho e planejamento original foram ambiciosos quanto à diversidade de iniciativas a serem implementadas pelo projeto, porém, não houve a adequada estimação de tempo necessário para sua execução, para o período de três a quatro anos. Esta situação foi exigindo diferentes soluções por parte da coordenação do projeto, ABC e do PNUD, tais como: reserva ou alocação anual de parte dos recursos financeiros; revisão do cronograma de produtos e atividades. Esta situação permaneceu ao longo dos 10 anos, como pode ser verificado por meio das sucessivas revisões substantivas que ampliaram prazo e foram substituindo produtos. Em termos de proposição da separação do gerenciamento dos procedimentos administrativos e financeiros- UGPdaqueles de gerenciamento técnico por diretoria, foram enfrentadas algumas dificuldades para a coordenação geral. O desenho inicial não incentivou a implementação de uma coordenação nacional, agrupando competências integradas: administrativo-financeira; aquisições e de gerenciamento técnico. 20 Por meio das entrevistas, este desenho foi indicado como elemento a ser melhorado, até como mecanismo de maior integração e intraoperacionalidade institucional no Inep. Em algumas entrevistas, a proposta de múltiplos Resultados associados a competências de Diretorias foi considerada como um fator restritivo ao melhor desempenho do projeto. Ao mesmo tempo, as diferentes Diretorias tinham pequeno conhecimento e acompanhamento das ações dos demais parceiros do projeto, no Inep. Esse pode ser considerado um os fatores mais restritivos a maior eficiência e eficácia do projeto, como reflexo do funcionamento da própria instituição. A inclusão de residuais de recursos e de consultores de três outros projetos de cooperação técnica, concluídos entre 2007 e 2008 no Projeto BRA/04/049, atuaram de modo a restringir o alcance de resultados, no período de 2007 a 2009, sendo que em abril de 2010 foi realizada a redução do montante do Projeto (US$ 5,6 milhões). Como identificado na avaliação intermediária e 2009, foi bastante elevado o número de produtos e atividades que deveriam ter sido executados e que não puderam ser, ou que apresentaram importantes atrasos em relação ao cronograma de execução anual. Ademais, a capacidade de desembolsos em relação ao orçamento aprovado para esses anos do Inep, nesse período, esteve em torno de US$1,5 milhão anuais. A adição de US$ 9 milhões exigiu que o Inep pudesse desembolsar cerca de US$ 4,8 milhões por ano, o que triplicaria a capacidade instalada de execução da instituição. A essa inclusão de recursos foram adicionados fatores restritivos como o Acórdão do TCU 1339 e das novas diretrizes da cooperação técnica emanadas da ABC e da CGCOP/MEC, que orientaram as atividades apoiadas pela cooperação a estudos por consultorias de pessoas físicas, eliminado conjunto importante de outras ações que previamente vinham sendo apoiadas pelo projeto. Dentre as características do desenho do projeto que atuaram de modo restritivo à efetividade e eficiência podem ser indicadas as seguintes: (i) gerenciamento técnico fragmentado nos primeiros 07 anos do projeto poderia ser aprimorado, por meio da constituição de um comitê gerencial, como instância de planejamento, monitoramento e avaliação (foi criado em 2012); (ii) carência de instrumentos e processos permanentes de monitoramento e avaliação (só previsto o informe anual de progresso) de alcance de: resultados (não só de produtos e atividades); de identificação permanente de dificuldades para o seguimento de ações; de propostas de planos de ação corretivos; de atualização trimestral de cronogramas executivos; de reuniões de seguimento com parceiros internos ao Inep nos primeiros anos do Projeto; (iii) ausência de instâncias de suporte político-institucional ao projeto, que poderiam apoiar a continuidade das iniciativas, em períodos de mudanças de altas e medianas gerências no Inep e MEC, com a constituição de Grupo de Acompanhamento do Projeto (poderão ser utilizados Comitês e Conselhos em funcionamento, com a participação de atores e parceiros externos ao Inep e MEC) nos primeiros 07 anos da cooperação; (iv) carência de mecanismos para o acompanhamento semestral dos avanços globais do projeto; não somente por Diretoria e sim por gestão de resultados; (v) ausência de informação e disseminação no site do Inep do Documento de Projeto para consulta; colaboração e acompanhamento dos demais parceiros estratégicos internos ou externos; seguimento de resultados alcançados; próximas iniciativas; e relatórios de progresso; (vi) em geral, adoção de indicadores não quantitativos de avaliação/sucesso para determinados Produtos embasados na produção, por exemplo, de documentos, relatórios e capacitações; não permitindo um controle de indicadores quantitativos por plano de ação anual e total, até 2010. (vii) carência de indicadores de Resultados e de indicadores de OD a alcançar ao final do Projeto, como por exemplo: até 2009, aumento de 30 % nas instituições de ensino superior avaliadas; pelo menos, até 2009, duas experiências de cooperação técnica em desenvolvimento, com dois países latino-americanos, sobre temas de educação. A partir de 2010, os indicadores passaram a ser medidos em termos de: número de documentos; número de metodologias. (viii) reduzida previsão de procedimentos para a avaliação resultados como contribuintes de alcance de OD, incorporando análises das respectivas consequências de implementação e respectivo uso como elemento de avaliação de efeitos e impactos de Resultados e de OD. Os relatórios de progresso apresentam as atividades e produtos desenvolvidos em cada ano. Entretanto, o desenho e a execução do projeto não fizeram previsão de concentração de monitoramento de alcance ou contribuição para alcance de resultados mais amplos, com a apresentação de avanços anuais em cada um dos resultados por meio de indicadores e metas a serem alcançadas. Em termos de desenho inicial e durante a execução, não foi proposta a constituição formal de um Comitê Gerencial do projeto, com a participação de pelo menos os seguintes beneficiários (1 representante por Diretoria, 1 representante Presidência, e 1 UGP); permitindo reuniões a cada dois a três meses, ampliando as relações de integração institucional. Essa situação foi solucionada com a criação desse Comitê por meio de Portaria em 2012. 21 Talvez fosse eficaz integrar nas reuniões trimestrais um representante do PNUD e 1 da ABC, bem como dois representantes de ONGs atuantes no setor de educação e 1 representante CNE. Outro elemento relevante e restritivo foi o fato do projeto ter sido desenhado há dez anos sob um conjunto de diretrizes de cooperação técnica emanadas da ABC e da CGU, as quais foram sendo modificadas a partir do período 2007 a 2009, trazendo câmbios importantes ao que seria adequado ser executado em uma cooperação técnica com aporte de recursos nacionais aos organismos multilaterais. Essa mesma situação foi enfrentada pelo projeto, em termos de inadequação de desenho, a partir das diretrizes desse período, a serem aplicadas as cooperações técnicas do MEC e órgãos vinculados, por meio da CGCOP. Essa constitui uma das restrições importantes que projetos muito longos aportam para as ações de cooperação técnica em instituições, que tem de estar lidando em caráter permanente com novos desafios e inovações em termos de exames, avaliações, estudos, pré-testes e novos temas de interesse no aprimoramento para a educação com qualidade. 2.2.2 – Fatores relacionados ao Processo de Execução. Os fatores restritivos identificados no processo de execução do projeto são apresentados a seguir: (i) Reduzidos recursos humanos (técnicos e administrativos) da UGP/GAB e das coordenações em cada diretoria para as frequentes articulações com parceiros relevantes e permanente participação, em diferentes instâncias de diálogo educacional; bem como, para dedicar ao acompanhamento das ações necessárias à execução da cooperação devido à carga horária e dedicação integral aos temas de exames, avaliações e levantamentos que apresentam cronogramas anuais bastante rígidos. (ii) Reduzido tempo inicial e prazos revisados do projeto para a execução de metas acordadas, com os parceiros estratégicos: internos ao Inep, nacionais e internacionais, gerando a ampliação do prazo de execução ao longo dos últimos 10 anos (revisões substantivas, gerais e mandatárias- 23); (iii) Reduzidas ações de disseminação de determinados resultados das atividades e produtos desenvolvidos (publicações, CD, home Page) por ausência, em certo grau, de recursos especializados, decisão sobre linha editorial, aprovação de instâncias de decisão sobre as publicações e tempo; (iv) Mudanças de interlocutores relevantes e de níveis gerenciais das administrações públicas federais, estaduais e municipais nos últimos 10 anos. (v) Complexos processos de tomadas de decisão sobre determinados temas (capacitações, estudos, indicadores) e realização de atividades, por meio das áreas técnicas e gerenciais de determinados parceiros federais e; governamentais e não governamentais; (vi) Reduzidos recursos humanos (técnicos, gerenciais e administrativos) do Instituto, independente dos Consultores, mesmo com o Concurso Público para temporários e permanentes nos últimos anos, com melhoria nos últimos cinco anos. (vii) Dificuldades operacionais junto ao PNUD para contratação de consultorias produzindo atrasos na execução das atividades; redução das metas em determinados Resultados; ou realização com recursos do Tesouro e procedimentos nacionais; (viii) Reduzidas ações de difusão e disseminação sistemática dos resultados das atividades desenvolvidas entre as Diretorias, funcionários e gerentes do Inep; gerando dificuldades de articulação interna entre as Diretorias e a obtenção de uma visão global do Projeto, pelos coo executores internos, mesmo com o Comitê criado em 2012. (ix) Mudanças na legislação para contratação de profissionais para consultores de longo prazo, devido a modificações nos regulamentos para consultorias (Decreto 4748/ 2003), gerando TAC entre o Inep/MEC com o Ministério Público do Trabalho, de modo a preservar memória institucional e técnica, até 2009. . (x) Planejamento administrativo centralizado na UGP/GP e execução dependente de outros núcleos técnicos (Diretorias e Coordenações Gerais); (xi) Dificuldades nos tempos para tomadas de decisão sobre determinados Produtos e realização de atividades, pelas áreas técnicas e gerenciais, revelando sobrecarga de funções e/ou sofisticação do tema, envolvendo decisões fora de alcance do projeto; (xii) Atrasos em determinados processos de licitações de consultorias, tanto na Agência Executora (elaboração de TORS; mudança de atividade) como no PNUD; (xiii) Rotatividade das equipes técnicas e gerenciais no Inep exigindo novas capacitações; tempo para operacionalização; e reconstituição de rede de interlocução; (xiv) Dificuldades para elaboração de Termos de Referência e longos prazos para a efetivação de contratos de consultores, devido às normas do PNUD e posições do seu Comitê de Risco até 2012. Com o apoio dos consultores MEC/PNUD essa situação apresentou mudanças positivas importantes. (xv) diagnóstico inicial insuficiente sem a elaboração de linha de base e de software de monitoramento físico, prévios à elaboração do PRODOC. Essa situação de ausência de linha de base permaneceu até o final do projeto. 22 (xvi) dificuldades da Coordenação do projeto para dar continuidade aos compromissos assumidos com as Diretorias do Inep e centros de pesquisa nacionais; com representantes da ABC; MEC e do PNUD; e com parceiros internacionais; devido a não aprovação de execução com a colaboração de Agências de Implementação (USP, UFRJ, FGV) até 2011. As agências especializadas foram sendo reincorporadas ao processo de execução de CT. (xvii) descompasso entre os cronogramas de execução e os recursos orçamentários, devido aos atrasos na implementação das atividades e produtos, gerando excedentes financeiros frente à capacidade de execução institucional; (xviii) não operacionalidade de um Comitê Executivo de projeto até 2012 promoveu maiores dificuldades para a: supervisão e continuidade de implementação nos períodos de mudanças nas Diretorias e Setoriais; (xix) carências de software/hardware representaram maior carga de trabalho aos profissionais da coordenação nacional para manter atualizado o gerenciamento físico e financeiro do Projeto; não havendo integração com o acompanhamento executado pelas demais diretorias do Inep (xx) ausência de recursos técnicos e orçamentários propostos para o monitoramento de resultados físicos do Projeto, não permitindo acompanhar, durante a execução do Projeto, os efeitos de médio e longo prazo (3 a 5 anos); Caberia destacar que a grande maioria dos entrevistados no Inep concordou sobre dois relevantes fatores restritivos, na implementação do projeto: a demora na aprovação dos processos licitatórios pelo PNUD; e as mudanças nas diretrizes que orientaram a cooperação técnica até 2009 e após 2009 até 2015. Essas mudanças passaram a restringir as ações programadas no Projeto em especial na área de tecnologia da informação; na promoção de eventos e seminários; no apoio ao deslocamento de consultores e participantes de eventos; capacitações em temas de interesse internacional (componente de intercambio de experiências, metodologias e estudos). As ações de cooperação internacional ficaram restritas à ação do MEC por meio da CGCOP, ainda que algumas iniciativas voltassem a ser promovidas pelo Projeto, com a autorização dessa área do Ministério. 3. Conclusões Gerais da Avaliação: As conclusões gerais são resultado da apresentação do resumo executivo da aplicação dos critérios de avaliação; da análise dos fatores que influenciaram a execução do projeto e suas contribuições para as conclusões gerais da avaliação. O Projeto continua em linha com as políticas brasileiras para a melhoria da qualidade da educação, que pode ser confirmada tanto pelas estratégias e projetos neste tema. Também está em linha com as estratégias e políticas de Cooperação do Governo Brasileiro, ABC, e dos organismos internacionais tais como: PNUD; UNICEF, UNESCO. O desenho do Projeto originalmente propôs ações para contribuir para a melhoria da qualidade da Educação, por meio de informações, dados e indicadores elaborados de modo a subsidiar a proposição de estratégias e políticas públicas neste tema. As áreas de fortalecimento institucional apoiadas pelo projeto, no tocante aos seis eixos temáticos, que aportaram contribuições positivas, direta ou indiretamente, com forte participação de parceiros e outras iniciativas do Inep e MEC, foram: (i) apoio para consolidação da estrutura funcional e organizacional do Inep em atendimento de demandas emergentes de parceiros estratégicos para o tratamento dos temas educacionais, em especial, censos, avaliações, pesquisas e capacitações; (ii) apoio a censos, avaliação e incorporação nos sistemas de informações de variáveis e indicadores inovadores nos projetos, programas e políticas educacionais; (iii) apoio à coordenação intrainstitucional nas áreas de estudos, pesquisas, censos, avaliações e levantamentos para o tratamento de eixos temáticos da Educação; (iv) apoio à coordenação interorganizacional entre os parceiros estratégicos; colaboradores governamentais e não governamentais; (v) desenvolvimento de recursos humanos para apoio de parceiros estratégicos, nos eixos temáticos do projeto; (vi) apoio à disseminação de conhecimentos, estatísticas e informações sobre os eixos temáticos do projeto; (vii) apoio à constituição de instâncias de avaliação e de mecanismos de operacionalização das melhorias na qualidade da educação. Em relação à implantação do projeto, os seguintes pontos foram contribuintes para sua obtenção, até o momento, devido à aplicação de enfoque de colaboração entre diferentes instâncias e parceiros, no tratamento dos seis eixos temáticos do projeto: 23 (i) um modelo de aproveitamento de sinergias existentes foi estabelecido com as áreas de atuação institucional do Inep e MEC, favorecendo a atuação do Projeto em áreas estratégicas para o desenvolvimento técnico entre os diferentes parceiros, nas iniciativas do Projeto, inclusive os Estados e Municípios. (ii) aproveitamento das sinergias para a capacitação e sensibilização em gestão educacional (escola de gestores), experiências inovadoras; censos, avaliações, levantamentos, indicadores e pesquisas em distintas áreas da educação, com parceiros estratégicos ao Projeto. Estas ações também foram utilizadas para: a constituição de redes de comunicação; intercâmbio de informações e dados educacionais; e realização de seminários internacionais e nacionais; bem como pesquisas de integração regional com o MERCOSUL e de dados permitindo a participação em iniciativas internacionais promovidas pela OCDE e outras organizações latino-americanas e europeias ; (iii) apoiou ações que visavam subsidiar a formulação de políticas públicas em educação, para juntamente com as demais instituições parceiras, atuarem para o fortalecimento das políticas e programas de desenvolvimento educacional; (iv) apoiou previamente as atividades em execução pelos órgãos públicos e demais parceiros estratégicos, voltadas ao desenvolvimento educacional, através da realização de: capacitações, oficinas de formação e sensibilização; reuniões; e seminários. Estas iniciativas geraram maior integração com os demais projetos executados: internamente ao Inep, pelo MEC; pelas Secretarias Estaduais e Municipais; e por relevantes instituições brasileiras e internacionais atuantes, nos eixos estratégicos do Projeto. Atualmente, essas iniciativas são executadas com recursos do Tesouro. Por meio da avaliação do Projeto, puderam ser observados efeitos de curto prazo alcançados pelo Projeto, que no futuro apoiarão na obtenção do objetivo de desenvolvimento: (i) melhores práticas de gestão educacional e sensibilização de gestores educacionais; bem como, disseminação de experiências inovadoras, com a utilização de premiação nacional para incentivar a participação de maior número de gestores educacionais. (ii) melhor disponibilização de estudos, pesquisas, exames, avaliações, levantamentos, informações e conhecimentos entre os parceiros estratégicos e sociedade, nos eixos temáticos do Projeto; (iii) maior reconhecimento do Inep pela sociedade organizada; parceiros governamentais e demais atores, atuantes nos eixos temáticos do Projeto; (iv) ampliação de redes de comunicação e participação das comunidades, parceiros estratégicos e constituintes tripartites na implementação de iniciativas; (v) constituição de instâncias de participação de parceiros relevantes para a maior representatividade e sustentabilidade das iniciativas necessárias à implementação do Projeto; (vi) renovação de capacidades técnicas, de liderança e de colaboração setorial, intrassetorial e intersetorial em temas educacionais, em especial, naqueles relacionados a: censos, avaliações, estatísticas, pesquisas e estudos, e levantamentos especiais nas diferentes modalidades de educação. Das análises e entrevistas realizadas, pode-se indicar que o projeto está dando sua contribuição para o alcance em longo prazo do Objetivo de Desenvolvimento, em sinergia com as demais ações em implantação pelo Inep, MEC e por outros Programas e iniciativas setoriais do Governo brasileiro, em suas diversas instâncias. Os seguintes fatores deverão ampliar a probabilidade ampliar os alcances dos Resultados e Objetivo de Desenvolvimento do Projeto, no período após a respectiva conclusão: (i) continuidade da prioridade política e orçamentária nos programas governamentais dos eixos temáticos do Projeto, em âmbito federal, estadual e local (PDE e PNE); e do aporte pelo Inep de dados e informações sobre a educação nacional, para proposição de políticas setoriais; (ii) profissionais; consultores externos; colaboradores e parceiros estratégicos capacitados nos temas do Projeto, mantendo a memória institucional e expertise técnica nos eixos da cooperação, em nível federal, estadual e local; (iii) processos de articulação interna e externa para assegurar a colaboração de parceiros de organizações públicas e não públicas, permitindo a multiplicação de redes de parcerias, informações e diálogo nos temas do Projeto; em especial, em iniciativas inovadoras em educação; (iv) articulação com Programas e Projetos em andamento para a melhoria da qualidade da Educação; PPA 2015/2018; PNE 2014/2024 e com os Programas em execução pelo MEC; (v) tratamento e disseminação de informações existentes produzidas pelo Projeto; e ampliação da disseminação de informações técnicas e gerenciais sobre os avanços alcançados nos eixos temáticos do Projeto; (vi) planejamento e instrumentos de monitoramento e avaliação de Projeto, elaborados e disponibilizados para os diversos parceiros no Inep; (vii) operacionalização do Modelo de Gestão do Inep, Escritório de Negócios e de Processos nos próximos anos; Considerando as ações relevantes mencionadas para a sustentabilidade dos efeitos e impactos do projeto, após a conclusão, os possíveis fatores de risco à sustentabilidade são as seguintes: 24 (i) probabilidade de mudanças nas altas autoridades e gestores estratégicos nos próximos três anos; (ii) mudanças frequentes nos recursos técnicos e administrativos no Inep; (iii) reduzido quadro de técnicos em algumas organizações e diferentes intensidades de apoio nas três esferas de Governo; (iv) certo grau de dificuldades na coordenação interinstitucional da política e estratégias de melhorias da qualidade da educação entre parceiros estratégicos, nos três níveis de governo; (v) certo grau de dificuldades gerenciais e culturais da burocracia pública de consideração de temas transversais na formulação de políticas públicas de educação e erradicação da pobreza; (vi) certo grau de oscilação no fluxo anual de recursos financeiros e orçamentários nas três esferas da administração pública, para educação e demais iniciativas sociais; Como possíveis fatores favoráveis à sustentabilidade dos efeitos e impactos do Projeto após 2015, poderiam ser relacionados: (i) PPA após 2014 refletindo a prioridade política educacional para programas de inclusão social e redução das desigualdades sociais, com o esforço do MEC para garantir informações, dados, pesquisas, censos e avaliações implementadas pelo Inep; (ii) PDE 2007-2017 assegurando o planejamento e implementação de programas e ações educacionais nos órgãos setoriais, nas temáticas de apoio do Inep às políticas públicas; (iii) PNE 2014/2014 assegurando que as diretrizes e metas nacionais servirão de base para as ações e programas setoriais, com impacto nas ações do Inep; (iii) elaboração e operacionalização de Sistema Nacional de Monitoramento e Avaliação da Política Nacional de Promoção da Melhoria Educacional, no âmbito do Inep, como modo de apoiar o monitoramento do PNE e PDE, na próxima década; (iv) maior sinergia com outros programas e projetos voltados à qualidade da educação e inclusão social em âmbito nacional e internacional; (v) campanhas públicas de promoção de informação e disseminação de dados sobre a importância destes estudos, pesquisas, censos e avaliações educacionais para acompanhamento da sociedade dos avanços alcançados pelo setor, na continuidade das iniciativas do Projeto; (vi) disponibilização de estudos, pesquisas, avaliações e capacitações na home Page do INEP e de publicações; (vii) compromisso do Governo na continuidade dos estudos, levantamentos e pesquisas que possam vir a promover conhecimento, capacidades e habilidades para a implantação de ações inovadoras requeridas para a melhoria da qualidade da educação. Baseando-se nas análises prévias, pode-se avaliar como provável, que os resultados e efeitos já alcançados pelo projeto sejam relativamente sustentáveis, nos próximos anos, sempre que sejam asseguradas as condições de recursos humanos, orçamentários, tecnológicos e de informação para subsidiar as ações de proposição de políticas públicas para a melhoria da qualidade da educação em seus diferentes níveis e modalidade, por meio de: compromissos assumidos pelo Governo; compromissos das altas e médias gerências do Inep e MEC, e do fortalecimento de instâncias de diálogo. Caberia destacar que os Resultados do projeto foram sendo apropriados pelos servidores da Instituição e foram integrados nas metodologias, manuais, informações e dados, também o foram em processos de realização de exames, avaliações, pesquisas e estatísticas promovidas pelo Inep. Como visto previamente estes fatores contribuíram para que fossem alcançados, os seguintes resultados e efeitos: (i) elaboração de realinhamento institucional e modelo de gestão de pessoas para apoiar a gestão do Inep por meio de manuais aprovados e o modelo de gestão institucional elaborado; estes instrumentos geraram significativos efeitos imediatos e de longo prazo na Instituição, que passou a contar com melhores instrumentos efetivos para gestão e operacionalização do INEP. (ii) elaboração de redesenho de processos de trabalhos nas áreas de licitação, contratos e controle de materiais para apoiar a gestão institucional por meio de estudos, propostas, documentos orientadores aprovados e em uso pelas Chefias das Unidades Administrativas. Os efeitos institucionais e técnicos alcançados poderiam ser identificados em: maior reconhecimento da instituição pela administração pública e fornecedores; maior agilidade nos processos, aumentando a eficiência administrativa e reduzindo custos operacionais. (iii) constituição de memória técnica e capacitação institucional em instrumentos de gestão institucional como: gestão de recursos humanos; de recursos financeiros, de recursos humanos e de contratos e licitações. Este conjunto de instrumentos e processos de capacitação gerou efeitos positivos de curto prazo em termos de melhorias na capacidade de resposta e produção de conhecimentos gerenciais para a DGP, técnicos e outros setores do Inep. (iv) constituição de modelo de Escritórios de Projetos garantindo melhor operacionalização do sistema de TI e de metodologia de gestão e desenvolvimento de sistemas (MGDS) no Inep por meio de: (i) manutenção e a adequação dos bancos de dados feita mediante a padronização dos sistemas operacionais conforme Plano Tático de 25 Tecnologia da Informação; (ii) produção de ambiente de dados corporativos;(iii) implementação de rotinas ampliando a segurança das informações; (iv) redesenho e integração das bases de dados e de sistemas. (v) criação e consolidação de processos de realização de Censos informatizados e em tempo real promovendo o tratamento diferenciado para determinados temas de educação básica e aportando forte desenvolvimento de análises educacionais, gerando aprimoramento de políticas e programas corretivos nas áreas de interesse; (vi) proposição de normas para o funcionamento dos Censos, levantamentos especiais e redes de apoio para estudos e pesquisas sobre educação (nacionais e internacionais); bem como para Grupos de Trabalho e Comitês necessários; promovendo o estabelecimento de GT em diferentes instâncias e com multiplicidade de atores, com procedimentos para produção de resultados e alcance de metas; instalação e funcionamento de redes de informação e intercâmbio de dados com os estados, municípios e demais órgão da União. (viii) avaliação, monitoramento e procedimentos para acompanhamento dos projetos de censos, levantamentos, pesquisas em educação assegurando oferta de dados, mais seguros e ágeis para a distribuição de recursos públicos e novos diagnósticos da educação brasileira; promovendo homogeneização de conceitos, metodologias e resultados para fins comparativos; (viii) constituição de memória para análises de processos de evolução educacional ampliando capacidade técnica de avaliação neste tema do Inep, em atendimento às demandas das demais Diretorias, das Secretarias do MEC, parceiros estaduais e municipais. (ix) elaboração de novos procedimentos para o sistema de coleta de dados censitários em tempo real, por aluno, docentes e escolas, gerando programas de novos cadastros e administrador de cadastros. (x) realização do primeiro EDUCACENSO permitindo condições de geração de novas diretrizes; programas e ações a partir dos dados coletados/ diagnóstico sobre a educação básica brasileira. (xii) contribuição para o estabelecimento do Ideb para funcionamento de parcerias com outras instâncias para maior adequação das ações de planejamento e investimentos educacionais; (xii) insumos para a melhoria da educação brasileira, em parceria com as demais áreas do Inep (avaliações). (xiii) promoção de processos de atualização por meio de integração técnica da DAEB com as unidades estaduais e locais de educação promovendo oportunidades de intercâmbio de conhecimentos; experiências bem sucedidas; ações inovadoras e constituição de bases comuns para o tratamento de questões relacionadas à certificação de competências; (xiv) capacitações de recursos humanos e participação em reuniões técnicas; promovendo a disseminação de conhecimentos e experiências institucionais para a reatualização processual das avaliações de desempenho, Encceja, Pisa, Libras e outros (xv) melhorias na disseminação de informações sobre avaliações de desempenho de alunos pelo Inep, com a ampliação de consultas e disseminação dos resultados das pesquisas, coleta de dados, exames de ensino básico e procedimentos para os processos de avaliações, tanto para usuários internos ou externos à Instituição. (xvi) realização de avaliações de certificação de competências e habilidades de jovens e adultos promovendo melhorias na formulação de políticas para a melhoria da qualidade de ensino na modalidade EJA; (xvii) consolidação do Banco de Dados a partir das avaliações: Enem, Encceja, Pisa, Libras e promoção de Banco de Itens para estas avaliações, reforçando as ações de planejamento, investimentos e diagnósticos setoriais para a formulação de políticas educacionais. (xviii) promoção de certificação de cidadãos brasileiros e estrangeiros que necessitam reconhecimento dos conhecimentos e habilidades na língua portuguesa, contribuindo para a implementação de políticas nacionais neste tema (Celpe-Bras). (xix) promoção de estudos voltados a temas de: alternância, inclusão digital, temas transversais e novas práticas educacionais; organização de acervos do Inep; indicadores e pesquisas; e disseminação de informações em educação e Pesquisa Talis e Terce. (xx) constituição de rede de avaliadores institucionais do Sinaes (Banco de Avaliadores) com qualificação e capacitação asseguradas para produção de avaliações temáticas/ setoriais; (xxi) ampliação de estudos sobre aderência de cursos às Diretrizes Curriculares Nacionais promovendo a melhor qualidade de ensino nas IES; (xxii) promoção de capacitações de pesquisadores institucionais ampliando as condições de produção de conhecimentos sobre ensino superior; avaliações e estudos específicos; (xxiii) promoção de estudos sobre o Enade, contendo análises geradoras de melhorias nos processos de avaliação e da educação superior; (xxiv) informatização e disseminação de dados e informações sobre as avaliações, banco de avaliadores (Basis), e o sistema e- MEC, no Portal do Sinaes permitindo maior transparência, acompanhamento e sugestões da comunidade científica, cidadãos e demais parceiros relevantes neste tema. (xxv) continuidade aos ciclos avaliativos do Enade promovendo a geração de análises, proposição de ações corretivas e preventivas; informações necessárias às novas iniciativas nas políticas públicas de ensino superior; (xxvi) continuidade às avaliações institucionais e de cursos de graduação promovidas pelo Inep propiciando insumos para a tomada de decisões de formuladores de políticas educacionais no ES. 26 (xxvii) constituição de rede de articulações e parcerias com instituições de ensino superior, de centros de pesquisa e estudos para a promoção de conhecimentos e desenvolvimento de capacidades no tema; (xxviii) melhorias nos Censos Escolares por meio dos resultados das avaliações realizadas, gerando propostas de mudanças e novas propostas de melhorias para o ensino básico; (xxix) melhorias na qualidade da Educação Básica por meio da institucionalização de processo da aplicação da Prova Brasil/Saeb Provinha Brasil (Português e Matemática) permitindo aprimoramento de dados do Saeb, e de identificação de diferenças regionais, e promovendo novas ações para a melhoria da qualidade da educação nacional; (xxx) consolidação de rede de instituições de pesquisa de avaliação educacional do Educação Básica, promovendo melhores condições para análises, diagnósticos e participação de avaliadores nacionais. (xxxi) fortalecimento dos indicadores de avaliação do EB por meio da proposição do Ideb como mecanismo de monitoramento da qualidade da educação e orientador de investimentos em educação (ação corretiva e preventiva) (xxxii) participação em rede internacional de pesquisas sobre avaliação de Educação Básica (Pisa, UNESCO/OREALC e Llece) promovendo intercâmbio de conhecimentos e processos de avaliação e monitoramento; bem como melhorias para a qualidade da educação nacional. (xxxiii) procedimentos de infraestrutura logística para exames e outros eventos de porte nacional melhorados por meio de estudos e propostas técnicas de processos de apoio à realização destas iniciativas, reduzindo significativamente o grau de probabilidade de ocorrência de problemas ou dificuldades na operacionalização das iniciativas. Em geral se poderia identificar sinteticamente que o projeto contribuiu de modo muito satisfatório para a ocorrência de efeitos na área de educação, por meio de sua sinergia com as ações implementadas pelo Inep e MEC, e outros parceiros federais, estaduais e municipais atuantes no setor. Ao mesmo tempo, o projeto apresentou uma alta relevância para a estruturação e qualificação dos exames, avaliações, estudos e pesquisas na área de competência do Inep, sendo que os anos iniciais da cooperação aportaram significativas contribuições para o cenário de constituição desses instrumentos e mecanismos setoriais promotores que subsídios e ao monitoramento da qualidade da educação nacional. As frequentes mudanças de autoridades no setor no período de 10 anos e de reduzido número de servidores efetivos nos primeiros anos da cooperação promoveram uma reduzida a média eficiência na implantação do projeto, em especial nos primeiros anos (06 anos). Após 2011, o projeto passou a apresentar melhores índices de execução em relação ao planejado anualmente. O ajuste dos recursos orçamentários em duas ocasiões totalizando a redução de cerca de US$ 15 milhões promoveu melhor adequabilidade à efetiva capacidade de execução de cooperação do Inep, com os limitantes e as diretrizes recomendadas pelos órgãos de controle da União e pela CGCOP/MEC. O grau de eficiência da implantação do Projeto pode ser considerado de regular a medianamente satisfatório considerando os esforços significativos feitos pelos colaboradores do projeto ao longo da execução Entretanto, constatam-se reduzidos desembolsos em relação ao planejado; importantes atrasos no cronograma de execução das ações do projeto; e reduzida integração entre as distintas Diretorias e com a carência de monitoramento e avaliação de Resultados alcançados, não só de produtos e atividades. Na prática, o projeto executou 82% dos recursos disponibilizados. Alcançou com custos, recursos humanos e financeiros adequados e com importante atraso determinados resultados e efeitos de curto prazo esperados, para estes 10 anos do projeto, nos respectivos eixos de atuação. O grau de eficácia do projeto foi avaliado como medianamente satisfatório, considerando as importantes contribuições e sinergias alcançadas com os demais programas e iniciativas do Inep e MEC; e com parceiros relevantes no setor educacional. Entretanto, caberia reconhecer que as ações voltadas à realização de censos, avaliações e estudos nacionais desenvolvidas com apoio do projeto, representam iniciativas estratégicas (poucos recursos) frente à magnitude de recursos humanos, financeiros e operacionais disponibilizados pelo Governo brasileiro, em suas instâncias federais, estaduais e municipais; e face aos recursos alocados no Inep. Ao longo dos dez anos de execução, esse projeto apoiou estrategicamente (com conhecimentos, informações e capacidades) a implementação e proposição de novas políticas e programas para melhorias na qualidade da educação brasileira. Estas contribuições podem ser identificadas nos diagnósticos, avaliações; dados e informações nas propostas do Plano de Desenvolvimento da Educação, lançado em 2007, e no PNE (2001 – 2010); bem como o novo PNE 2014/2024, elaborado em 2010. 27 Recomendações Após uma análise da trajetória de construção e da execução do projeto caberia no processo de avaliação, a identificação de lições aprendidas e a proposição de um conjunto de recomendações. Estas duas vertentes aumentariam o grau de probabilidade de continuidade das ações iniciadas ou dos efeitos gerados no âmbito do projeto, apropriados ou em fase de incorporação pelo Instituto. 2.1 – Recomendações para o Inep: As principais recomendações para a continuidade do Projeto são indicadas a seguir: Recomendação 01: Assegurar as medidas e ações necessárias para a continuidade pelo Inep das iniciativas realizadas pelo projeto, nos próximos quatro anos; bem como, a ampliação gradual de metas anuais do Instituto, como elemento de apoio ao alcance de compromissos nacionais e internacionais do Governo brasileiro, com a educação nacional: (i) recursos humanos, institucionais e financeiros; (ii) mobilização de apoio dos parceiros estratégicos; (iii) manter prioridade institucional e política; (iv) implementação de monitoramento e avaliação de impactos de projeto; Recomendação 02: Continuar promovendo um contexto favorável para que os demais parceiros estratégicos no setor continuem colaborando para a implantação de políticas e programas nacionais no setor, por meio apoio às instâncias de diálogo nacional, o que poderá exigir: (i) apoio estratégico por meio de instrumentos e metodologias de monitoramento e avaliação da implantação do PNE 2014/20124 para Conselhos de Educação, MEC e Secretarias de Educação; (ii) apoiar a maior participação de instituições públicas e não governamentais (centros de pesquisa, locais e estaduais) na implementação de iniciativas inovadoras em gestão das políticas públicas de educação. Recomendação 03: Assegurar institucionalmente a disseminação dos estudos, pesquisas e acompanhamento de indicadores educacionais; bem como, criar oportunidades de multiplicação dos conhecimentos e experiências bem sucedidas neste projeto. Nos novos desenhos de projeto deveriam ser incorporadas atividades destinadas à sistematização e publicação de: lições aprendidas e boas práticas. Recomendação 04: Atuar estrategicamente para assegurar, nos próximos anos, os recursos humanos adicionais necessários a continuidade das iniciativas do projeto, em especial para: novos estudos inovadores de apoio a propostas de políticas públicas educacionais; monitoramento e atualização de dados e informações educacionais; e ampliação de redes de interlocução e colaboração para processos de avaliação e monitoramento da implantação do PNE 2014/2024. Recomendação 05: Para a elaboração de desenho de novo projeto se recomenda a previsão de nova modalidade de reuniões gerenciais com o PNUD, em especial, para solução de procedimentos de licitações. Pelo menos, bimestralmente, comissão integrada pelo PNUD, Inep, e CGCOP poderá reunir-se para decisões sobre processos pendentes. Recomendação 06: 28 Para a elaboração de desenho de novo projeto recomenda-se que determinados termos de referencia que necessitem de insumos e dados de outras diretorias no Inep passem a ser de responsabilidade técnica compartilhada, ampliando a integração de base de dados. Recomendação 07: Recomenda-se para próximo desenho de projeto que as diretorias do Inep passem a elaborar dois informes de progresso por ano, de acordo com o formato do PNUD para permitir melhor avaliação e monitoramento conjunto do projeto pelo CEPCT. Recomendação 08: Recomenda-se que sejam consideradas, no caso de novo projeto, ações que possam promover a integração e atuação conjunta entre as diferentes diretorias e iniciativas destinadas a propor instrumentos e mecanismos de monitoramento e avaliação de políticas públicas em educação. Recomendação 09: Recomenda-se que com a divulgação da política editorial da instituição sejam realizadas iniciativas de divulgação e disseminação dos estudos, pesquisas, dados e informações elaboradas, com apoio do projeto, ao longo dos 10 anos de execução. Recomendação 10: Recomenda-se que novos projetos do instituto na área de educação possam ter uma duração entre 03 a 05 anos, apresentando características de maior concentração de iniciativas em poucos Resultados, e com montantes adequados à capacidade de execução média anual do Inep nos últimos 10 anos, que se situou em torno de US$ 1,5 milhão. Recomendação 11: Assegurar em novos projetos que semestralmente seja elaborado o Informe de Progresso, de acordo com o modelo PNUD, e anualmente pelo modelo da ABC. Os sistemas de monitoramento se apresentam independentes mas contemplam informações importantes para a tomada de decisão de autoridades sobre ações para melhorar a eficiência e eficácia da cooperação técnica. 2.2 – Recomendações ao PNUD. As principais recomendações a considerar para a elaboração de futuras Cooperações Técnicas: Recomendação 01: Este tipo de Projeto desempenha papel de introduzir/lançar temas nas diferentes instâncias de diálogo educacional; consolidando redes de parceiros relevantes; e propondo estudos e iniciativas inovadores para as políticas públicas. Sugere-se que o período de execução de Projetos similares possa ser entre 3 a 5 anos, de modo a permitir melhor avaliação de resultados e efeitos do projeto para as políticas sociais; bem como, calibragem e validação periódica de instrumentos e metodologias em todo o território nacional e junto a parceiros internacionais. Recomendação 02: Processos de diálogo do projeto vêm permitindo a Inep a construção de redes de parceiros estratégicos e o mapeamento de outras iniciativas (nacionais ou internacionais) em execução, que poderiam atuar sinergicamente, com projetos de cooperação internacional. 29 Sugere-se que sejam incluídas atividades de mapeamento preliminar de outras iniciativas internacionais no desenho de novos projetos, e para isso a instituição pudesse contar com apoio e expertise internacional o PNUD para ampliar a articulação com as demais iniciativas nacionais e internacionais no setor, que o Programa vem acompanhando. Recomendação 03: Sugere-se que o desenho de novos projetos similares possa incluir como anexos, guias ou notas orientadoras para o monitoramento e avaliação de indicadores de sucesso do projeto (Objetivo de Desenvolvimento e Resultados) e instrumentos de processos de monitoramento de Resultados e efeitos alcançados (sem ser por produto) e respectivas contribuições para o alcance de Objetivo de Desenvolvimento. 2.3 – Recomendações a ABC: Recomendação 01: Sugere-se que a ABC possa melhorar o processo de monitoramento da implementação desta iniciativa, ampliando as reuniões com o projeto para serem bimestrais. Ademais, sugere-se, em acordo com o Inep, a ampliação de parceiros estratégicos nas reuniões tripartites, adicionando atores relevantes ao setor. Recomendação 02: Recomenda-se que os novos projetos com a Instituição possam ter prazos de execução entre 03 a 05 anos, com um menor número de Resultados e com o montante adequado a capacidade media anual demonstrada em projetos anteriores. ´ Recomendação 03: Recomenda-se que os novos projetos com o Inep apresentem proposta de voltada ao desenvolvimento de capacidades, à promoção de conhecimento e à estudos em temas de inovação para subsidiar com dados, estudos e informações a proposição de políticas públicas. Estas características se encontram em acordo com as necessidades de apoio técnico do Instituto a serem promovidos por projetos de cooperação internacional. 30 Lições aprendidas 1. Lições aprendidas Propor iniciativas de registro e disseminação de “lições aprendidas” para este projeto certamente apoiará aos seus gestores sobre iniciativas de promoção de novos conhecimentos e de desenvolvimento de capacidades a serem consideradas; bem como, servirá de suporte a outros projetos e programas e no desenho de novas operações. Certas informações e conhecimentos sobre projetos poderiam ficar dispersos nas instituições, em documentos impressos, em dispositivos de armazenamento de dados ou mesmo nos colaboradores, dificultando em alguns casos o acesso e disseminação em momentos oportunos e para a melhoria de processos. Nesse sentido as lições aprendidas do projeto se apresentam agrupadas. Para a ampliação da memória institucional em projetos é importante a contribuição obtida com a sistematização de lições aprendidas. O registro e a disseminação destas lições fazem com que gestores e colaboradores compartam informações da memória institucional, dando suporte às decisões, tanto no presente como no futuro. As informações também favorecem a identificação de bem sucedidas (ou mal sucedidas) práticas adotadas no passado do projeto, os quais constituem insumos para a implementação de novas iniciativas no futuro, evitando ou reduzindo desgastes institucionais e técnicos. Em geral, instituições que praticam o processo ensino-aprendizagem com a lições aprendidas apresentam maior probabilidade de sucesso, por exemplo, em: solução de problemas de maneira sistemática; experimentação de novas abordagens; aprendizado com as próprias experiências; aprendizado com as experiências e melhores práticas de outras organizações; e transferência de conhecimentos rápida e eficiente na instituição. 1.1 – Lições aprendidas. As principais lições aprendidas com a implementação do projeto nos últimos 10 anos são indicadas a seguir: LA 01: O projeto contribuiu para a incorporação de temas inovadores para a política nacional de educação. Este componente inovador no desenho do projeto demonstrou ser elemento importante para o sucesso da cooperação. Essa característica foi de muita adequação ao contexto setorial (mudanças e aprimoramentos) ampliando as probabilidades de alcançar impactos de longo prazo. LA 02: A identidade dos objetivos do projeto com as prioridades setoriais (PNE e PDE) permitiu que fossem construídos compromissos para a implementação do projeto. Estes compromissos políticos-institucionais podem reduzir riscos na implantação da cooperação, quando ocorrem mudanças de políticas públicas e de autoridades na instituição e no setor. LA 03: O projeto foi desenhado como o somatório de iniciativas a serem implantadas por cada uma das diretorias do Inep. O desenho do projeto contou com a colaboração de cada uma das unidades devido à maior complexidade metodológica, especificidade e de compromissos de cada uma em relação aos respectivos programas de trabalho. Essa característica institucional promoveu uma estrutura de execução por subprojetos, com reduzido grau de integração horizontal de Resultados. Esta situação produziu elevado grau de dificuldade para a coordenação operacional, financeira e técnica no projeto. LA 04: As mudanças de estrutura organizacional do Inep e das modificações das orientações nacionais sobre cooperação técnica internacional aportaram dificuldades na execução do desenho e alcance de metas estabelecidas, na metade do prazo de execução do projeto. Projetos de longa duração (10 anos) se apresentam mais frágeis para continuar sendo executados em ritmo, intensidade e eficácia como desenhados originalmente. LA 05: A elaboração de estratégias de monitoramento, disseminação e comunicação pelo projeto poderia ter sido mais efetiva se os processos fossem implantados desde o início do projeto. A disseminação dos estudos, pesquisas, e 31 informações poderia ter gerado maior articulação entre diretorias, parceiros institucionais, usuários e cidadãos, ampliando a participação no processo de monitoramento do projeto. LA 06: A criação de uma instância de monitoramento e avaliação de projetos de cooperação, após a metade do projeto, poderia ser integrada por atores que não pertencem à instituição, aportando maior sustentabilidade ao projeto em períodos de mudança de autoridades e políticas setoriais. LA 07: A realização sistemática de reuniões de acompanhamento da implantação do projeto com a participação de representantes de diretorias, parceiros estratégicos e de reuniões tripartites amplia a capacidade do projeto em aportar importantes contribuições para atuar com esses parceiros na promoção subsídios para políticas publicas e para propor novas iniciativas visando melhorar a gestão da cooperação. LA 08: A colaboração de consultores do MEC/PNUD melhorou a capacidade desenhar documentos de base para a seleção de profissionais para colaborar por produto e em curto prazo com cada uma das diretorias. Esta colaboração promoveu ganhos em eficiência e eficácia no projeto. LA 09: A seleção de estudos estratégicos a ser executados pelo projeto e voltados ao desenvolvimento de iniciativas do Inep, constituiu importante elemento para que as sinergias ampliassem os efeitos da cooperação. O projeto atuou por meio de profissionais com expertise e conhecimentos em áreas de maior complexidade contribuindo com os projetos e programas educacionais do Inep e do MEC, e dos parceiros estratégicos. LA 10: A sustentabilidade institucional foi sendo gradativamente garantida com a atuação conjunta de consultores externos e servidores da instituição, permitindo relativo compartilhamento da memória técnica e ampliação de capacidades técnicas e institucionais promovidas pelas iniciativas do projeto LA 11: Quanto maior for a articulação da UGP com as diretorias; autoridades da Instituição e parceiros estratégicos da cooperação internacional maior será o grau de probabilidade de serem obtidos resultados para melhorar a eficiência e eficácia do projeto. LA 12: A proposta elaborada de Modelo de Gestão do Inep deveria ter incluído a presença dos consultores por um período inicial de acompanhamento da fase implementação, assegurando melhores condições de apropriação pela instituição e empoderamento do processo junto às lideranças e servidores. 32