Sistema de Avaliação de Treinamento – SAT Maria Ednei da Silva* *Analista de Recursos Humanos Sênior da Eletronorte. Administradora com Mestrado em Administração – UnB. Especialização em Recursos Humanos. RESUMO A UCEL – Universidade Corporativa da Eletronorte vem desenvolvendo programas intensivos de Educação Corporativa nos últimos anos, em função da competitividade exigida pelas empresas do setor elétrico. Um Sistema de Avaliação de Treinamento capaz de monitorar a eficiência e eficácia desses programas tornou-se imperioso na empresa. Com esse foco, a empresa implantou o Sistema de Avaliação de Treinamento – SAT: um projeto de ponta que utiliza medidas de avaliação validadas cientificamente, tanto ao nível de reação, quanto ao nível de impacto do treinamento no trabalho. No SAT também é avaliado o Centro de Treinamento da Empresa, localizado na sede, “Bem-TeVi Desenvolvimento e Educação Empresarial”. Os resultados encontrados são encaminhados sistematicamente para as áreas clientes da empresa, instrutores, treinados e empresas fornecedoras desses programas. O SAT tem sido efetivo para a empresa, pois com base nos resultados encontrados nas avaliações de reação e de impacto do treinamento no trabalho, a UCEL reformula e introduz novas estratégias para a gestão da educação corporativa na Eletronorte. Palavras-chave: Educação Corporativa; Avaliação de Treinamento; Avaliação do Impacto do Treinamento no Trabalho. INTRODUÇÃO A Centrais Elétricas do Norte do Brasil S.A (Eletronorte) é uma concessionária de serviço público de energia elétrica, sociedade anônima de economia mista, subsidiária das Centrais Elétricas Brasileiras S.A. – Eletrobrás, criada em 20 de junho de 1973, com sede no Distrito Federal e com Unidades Descentralizadas nos estados do Acre, Amapá, Amazonas, Maranhão, Mato Grosso, Pará, Rondônia, Roraima e Tocantins. Tem como finalidade principal a realização de estudos, projetos, construção e operação de usinas geradoras e de sistemas de transmissão e distribuição de energia elétrica, diretamente ou por meio de suas subsidiárias integrais Boa Vista Energia S/A e Manaus Energia S/A, bem como a celebração de atos de comércio decorrentes dessas atividades. A Eletronorte tem investido substancialmente em Educação Corporativa, desde a sua criação, tendo em vista o fomento de uma cultura empresarial de excelência, nos moldes do Prêmio Nacional de Gestão Pública (PQGF), Prêmio Nacional da Qualidade (PNQ) e Total Productive Maintenance (TPM). A Universidade Corporativa da Eletronorte (UCEL), criada em 2002, vem intensificando programas de Treinamento, Desenvolvimento e Educação Empresarial, fortalecendo o capital humano da empresa, em função da competitividade exigida atualmente pelas empresas do setor elétrico. Esses programas compreendem ações educacionais presenciais e a distância, como também por meio da TV-Educativa Digital, que oferta programas de educação continuada “On line”. Um Sistema de Avaliação de Treinamento capaz de monitorar a eficiência e eficácia dos programas desenvolvidos tornou-se imperioso na empresa, sobretudo, em função dos altos custos envolvidos nessas ações. O Sistema de Avaliação de Treinamento (SAT) foi implantado na Eletronorte em 2000, com o objetivo de estabelecer medidas de avaliação fidedignas, científicas e sistematizadas das ações de educação adotadas na empresa. O SAT vem se consolidando na empresa, desde então, como estratégia eficaz para a monitoração da educação corporativa na Eletronorte. 1. MODELO DO SISTEMA DE AVALIAÇÃO DE TREINAMENTO – SAT O Sistema de Avaliação de Treinamento (SAT), da Eletronorte, foi baseado no modelo de avaliação de Hamblin (1978), que preconiza a avaliação de treinamento em cinco níveis: Reação, Aprendizagem, Mudança de Comportamento no Cargo (Avaliação de Impacto), Organização (Mudanças Organizacionais) e Valor Final (Retorno Financeiro). A Figura 1, a seguir, apresenta os níveis de avaliação, conforme preconizado por Hamblin (1978): Avaliação de Reação Avaliação de Aprendizagem Avaliação do Impacto do Treinamento Avaliação das mudanças organizacionais Avaliação do retorno financeiro Figura 1. NÍVEIS DE AVALIAÇÃO DE TREINAMENTO (HAMBLIN, 1978) (FONTE: SILVA, M.E. Gestão da Educação Corporativa na Eletronorte: estratégias visando à consolidação da Universidade Corporativa Eletronorte. Para Hamblin (1978) avaliação “é o ato de julgar se o treinamento valeu a pena ou não em termos de algum critério de valor à luz da informação disponível”. O SAT tem, portanto, o objetivo geral de fornecer informações contínuas e fidedignas à Eletronorte sobre a eficiência e eficácia das ações educacionais realizadas e/ou patrocinadas pela empresa. Tem os seguintes objetivos específicos: Avaliar a eficiência dos treinamentos realizados e/ou patrocinados pela Eletronorte, pela avaliação de reação; Avaliar a aprendizagem das competências adquiridas (conhecimentos, habilidades e atitudes) pela avaliação de aprendizagem; Avaliar o impacto do treinamento no trabalho, que tem como objetivo averiguar a transferência para o trabalho dos conhecimentos, habilidades e atitudes adquiridas na ação educacional, a melhoria do desempenho no trabalho, bem como o suporte organizacional encontrado pelo treinado (gerencial, social e material); Avaliar as mudanças ocorridas na organização em função das ações educacionais realizadas. Essas mudanças vinculam-se diretamente ao alcance dos objetivos organizacionais e as mudanças comportamentais esperadas na força de trabalho; Avaliar o retorno financeiro dos treinamentos realizados. Refere-se à relação entre a avaliação das mudanças na organização e o retorno financeiro. Os dois últimos níveis ainda se encontram em fase de projeto com vistas à implantação futura na Eletronorte. Porém, sabe-se que as habilidades adquiridas, quando transferidas para o trabalho, aumentam o desempenho do indivíduo e, por conseqüência, o da organização. Muitos têm procurado fórmulas de avaliar o retorno financeiro do treinamento para a empresa; contudo, esse retorno pode ser percebido pelo aumento do ativo intangível da organização, como a sua performance no mercado. A Eletronorte é prova disso, face aos inúmeros prêmios de qualidade que vem recebendo nos últimos anos, o que naturalmente provocou aumento do seu ativo intangível. 2. MODELO TEÓRICO UTILIZADO NA CONSTRUÇÃO DOS INSTRUMENTOS DE AVALIAÇÃO DO SAT Em função das especificidades da Eletronorte - cultura, suporte organizacional para a transferência do treinamento, política de recursos humanos e características dos colaboradores, foram estabelecidos objetivos de avaliação específicos para a empresa. A elaboração dos Questionários de Avaliação de Reação e de Avaliação de Impacto foi baseada nos conceitos de Hamblin (1978) e nos pressupostos teóricos do modelo MAIS (Borges-Andrade, 1982), conforme se apresenta a seguir (Figura 2): AMBIENTE: APOIO PROCESSO AMBIENTE: NECESSIDADES INSUMOS PROCEDIMENTOS RESULTADOS AMBIENTE: RESULTADOS A LONGO PRAZO PROCESSO AMBIENTE: DISSEMINAÇÃO Figura 2 Insumo: refere-se aos fatores sociais e físicos, e aos estados comportamentais da clientela, anteriores ao processo de treinamento; Procedimentos: refere-se aos procedimentos instrucionais ensino/aprendizagem; e Processos: outras ocorrências mudanças adotadas ocorridas no na situação comportamento de dos treinandos durante o treinamento; Resultados: indicam o sucesso imediato ou fracasso dos treinamentos, que são os indicadores de aprendizagem; Ambiente: refere-se ao contexto do treinamento que influencia os seus resultados. Este componente é subdividido em quatro sub-componentes: avaliação de necessidades _ identifica as lacunas entre o que é ideal e o que é real, em termos de desempenho do futuro treinando; apoio ou suporte organizacional _ refere-se às variáveis do ambiente em que o treinando está inserido, que podem afetar os resultados instrucionais; disseminação _ diz respeito às estratégias de divulgação do treinamento; resultados a longo prazo _ refere-se ao impacto do treinamento no trabalho. 2.1 PROCESSO DE CONSTRUÇÃO E VALIDAÇÃO DOS QUESTIONÁRIOS Para a construção dos questionários utilizados no SAT, os técnicos da área de educação empresarial da Eletronorte foram capacitados nos pressupostos teóricos relatados anteriormente, a partir dos quais foram formulados os itens dos Questionários de Avaliação de Reação e de Impacto. Os questionários passaram por dois processos demorados e intensos de validação: validação semântica e validação psicométrica, o que lhes garantiu bons índices de precisão e consistência. A Avaliação de Reação de Treinamento Interno abrange as seguintes categorias de avaliação: Desempenho do Instrutor; Desempenho dos Treinandos e Programação. A Avaliação de Reação de Treinamento Externo convergiu os seus itens em duas categorias de avaliação: Qualidade Instrucional e Apoio. A Avaliação de Reação de Treinamentos a Distância (Com Tutor) contempla as categorias: Desempenho do Tutor; Desempenho do Aluno; Quanto ao Curso. A Avaliação de Reação de Treinamentos a Distância (Sem Tutor) contempla as seguintes categorias: Processo de Aprendizagem do Aluno; Quanto ao Curso; Utilidade do Curso e Suporte Organizacional. A Avaliação de Reação de Treinamento Interno é aplicada nas atividades educacionais no último dia da ação, de forma presencial e a Avaliação de Reação de Treinamento Externo é enviada por e-mail ao participante, quando do retorno da atividade de educação. Os questionários de Avaliação de Reação de Treinamentos a Distância são disponibilizados para preenchimento no software que faz o gerenciamento da Universidade Corporativa da Eletronorte (UCEL) e os participantes são orientados pela coordenação para o seu preenchimento. A Avaliação de Aprendizagem é definida pelo respectivo instrutor, portanto, é elaborada e aplicada por ele nos cursos presenciais e pelo tutor/conteudista no caso do treinamento a distância. A Avaliação de Impacto do Treinamento no Trabalho também sofreu as análises estatísticas semântica e psicométrica e compreende três conjuntos de categorias: Objetivos Específicos do Treinamento; Suporte Organizacional e Impacto em Amplitude que avalia o impacto sobre os indicadores do TPM – Manutenção Produtiva Total (Total Productive Maintenance) na Eletronorte. A Avaliação de Impacto do Treinamento no Trabalho é realizada tanto pelo colaborador treinado, quanto pelo seu gerente imediato e é aplicada, no mínimo, três meses após o término da ação educacional. 2.2 ANÁLISE DOS RESULTADOS E EMISSÃO DOS RELATÓRIOS O processo da avaliação de treinamento e emissão de relatórios é realizado por uma equipe específica na Sede e pelos Coordenadores de Treinamento nas Unidades Descentralizadas. Qualquer processo de avaliação envolve, em algum grau, variadas fontes de erro ou viés, como a subjetividade do avaliador, diferenças metodológicas e de estilo. Para minimizar a fonte de viés, a equipe da sede sistematiza e padroniza a coleta de dados, análise e redação dos relatórios das avaliações de reação e de impacto de treinamento no trabalho. Os questionários preenchidos pelos treinados e respectivos gerentes são digitados no programa estatístico Statistical Package for the Social Science (SPSS), que gera tabelas descritivas de freqüências das médias gerais e desvios padrão, obtidas em cada uma das categorias dos instrumentos. A partir dos resultados obtidos, as informações são analisadas e é emitido o respectivo relatório. Os relatórios são encaminhados aos gerentes envolvidos na empresa, instrutores e treinados, gerencias da área de Educação Empresarial e empresas fornecedoras. Os dados encontrados também dão origem a relatórios gerenciais para a Eletronorte sobre o ranking das melhores empresas fornecedoras, de acordo com as médias encontradas nas avaliações de reação. Esse ranking é encaminhado para todas as gerências da empresa. Na sede, avalia-se, ainda, a qualidade do Centro de Treinamento da Eletronorte: “BEM-TE-VI DESENVOLVIMENTO E EDUCAÇÃO EMPRESARIAL”. 3. PARTICIPAÇÃO DO SAT NO PLANEJAMENTO ESTRATÉGICO DA EMPRESA Os dados do SAT mantêm perfeita interação com o Planejamento Estratégico da Eletronorte, uma vez que os resultados das avaliações das ações de educação desenvolvidas e/ou patrocinadas pela empresa retratam os indicadores de excelência da área de educação empresarial: Satisfação dos Treinados com as Ações Educacionais (STAE) e Impacto do Treinamento no Trabalho (ITT). Dentre os indicadores de desempenho empresariais contidos no Plano Estratégico da Empresa, encontra-se o Impacto do Treinamento no Trabalho (ITT), com a meta de 70%, para 2006. O quadro 1 a seguir apresenta a matriz desse indicador, conforme as metas do Desempenho Empresarial para 2005-2007: Quadro 1 Indicador e Meta para 2006 Perspectiva Aprendizado Objetivo Indicador Nível Unidade Metas 2006 Área Assegurar a gestão de pessoas alinhadas com os desafios ITT* Resultado % 70% GSE Empresariais *ITT – Impacto do Treinamento no Trabalho No Plano Estratégico da Eletronorte, ciclo 2006, o objetivo “Aperfeiçoar Continuamente a Gestão Empresarial”, indica a necessidade da otimização dos processos empresariais, pela certificação dos processos críticos segundo a norma ISO 9001:2000, a qual exige avaliações sistematizadas e documentadas dos produtos fornecidos aos clientes. Os resultados das avaliações de reação contribuíram e têm sido essenciais para a manutenção da certificação ISO 9001:2000, no processo denominado “Projeto e Implementação de Treinamento e Desenvolvimento de Pessoas” da Superintendência de Desenvolvimento e Educação Empresarial (GSE), por meio do indicador Satisfação dos Treinados com as Ações Educacionais (STAE). Na Eletronorte, o processo de educação corporativa contempla três etapas fundamentais e interdependentes (Figura 3), cada uma fornecendo informações importantes para a outra. PLANEJAMENTO É o processo de elaboração do Plano Diretor de Educação – PDE, baseado no Plano Estratégico da Eletronorte e outros diagnósticos. EXECUÇÃO Projeto e Realização de todo o processo da ação educacional, “Projeto e Implementação de Treinamento e Desenvolvimento de pessoas”. AVALIAÇÃO É a mensuração da eficiência e eficácia da ação educacional, conforme metodologias adotadas no SAT. Figura 3 _ PROCESSO DE EDUCAÇÃO EMPRESARIAL NA ELETRONORTE Os programas de educação corporativa são definidos em função dos objetivos estratégicos da Eletronorte, dos gaps encontrados na avaliação de desempenho dos empregados e das competências organizacionais. Espera-se que sejam eficientes e eficazes, ou seja, os treinados fiquem satisfeitos, adquiram as habilidades e as transfiram para o trabalho, apresentando impacto desses programas no trabalho e na organização, redundando, portanto, em resultados empresariais consistentes. O processo de educação corporativa da Eletronorte foi totalmente revolucionado após a implantação do Sistema de Avaliação de Treinamento (SAT). Os relatórios de avaliação de reação têm subsidiado constantes reformulações no projeto do treinamento, na performance do instrutor, na qualidade do material instrucional e na definição das características da clientela indicada para as atividades. As reformulações têm sido assimiladas e adotadas na área de educação empresarial, nas áreas clientes e demais áreas envolvidas na empresa. Também, tem-se estendido às empresas fornecedoras de treinamento. A Avaliação de Impacto do Treinamento no trabalho tem mostrado, sistematicamente, a importância da avaliação da necessidade do treinamento e do perfil da clientela envolvida, bem como do suporte gerencial existente na empresa para a transferência das habilidades adquiridas, sugerindo aos gestores da empresa maior critério nas indicações para treinamento e suporte organizacional. Atualmente, percebe-se uma nova cultura gerencial na empresa em relação ao processo de educação corporativa, tanto por parte da área gestora do processo _ havendo um significativo aumento da competência técnica para a negociação e planejamento dos treinamentos _, bem como por parte dos gerentes, os quais ganham maior conscientização para o cumprimento dos critérios na indicação para treinamento. A Eletronorte dispõe de um Sistema de Avaliação de Treinamento capaz de fomentar uma cultura corporativa de alto desempenho, pela obtenção de critérios científicos de avaliação, consolidando informações-chave sobre a educação corporativa que é desenvolvida na empresa. 4. PROCESSO DE COMUNICAÇÃO PARA O PÚBLICO INTERNO Um Sistema de Avaliação de Treinamento dessa natureza requer que os segmentos organizacionais tenham seus papéis bem definidos e que uma nova cultura de avaliação seja fomentada na Empresa. Em função disso, a Eletronorte elaborou uma estratégia de disseminação e sensibilização para a colaboração desses segmentos no processo de avaliação, a fim de valorizarem o SAT. A sensibilização dos membros da organização como um todo é fundamental para esse processo. Inicialmente, apresentou-se o projeto para a empresa através do jornal Norte/News, no qual se detalhou todo o processo do SAT. Por ocasião da capacitação dos Coordenadores de Treinamento, foi entregue o Manual do SAT, com os conceitos, metodologias, instrumentos e procedimentos do projeto, inclusive nos aspectos técnicocientíficos, a fim de servir como guia na implantação local do sistema. Além disso, foi distribuída, na empresa, uma cartilha ilustrada que explicava o SAT, cujo teor, além de apresentar os objetivos de avaliação, níveis adotados, instrumentos e procedimentos utilizados, também sensibilizava os leitores para a adesão ao projeto, respondendo às avaliações e lendo os relatórios de reação e de impacto. Essas estratégias de endomarketing tiveram sucesso, pois hoje o corpo funcional, na maioria, responde às avaliações que são encaminhadas. 5. RESULTADOS OBTIDOS NA ELETRONORTE COM O SAT Os resultados obtidos com o SAT são robustos e mostram que produzem dados comparativos relevantes para a efetividade do processo de gestão da educação empresarial, fazendo parte da matriz de indicadores da Eletronorte. Os gráficos 1 e 2, a seguir, apresentam o resultado do indicador “Satisfação dos Treinandos com as Ações Educacionais” (STAE) e do “Impacto do Treinamento no Trabalho” (ITT) obtido na empresa no período de entre 2001 e 2006. Gráfico 1 Evolução do STAE - Satisfação dos Treinandos com as Ações Educaionais(Em Percentuais) 100 80 87 78 92 86 93 89 60 40 22 12 20 1 13 1 1 8 10 0 1 7 0 0 2001 2002 Plenam ente Satisfatório 2003 2004 2005 Medianam ente Satisfatório 2006 Pouco Satisfatório Evolução do STAE - Educação a Distância (Em Percentuais) 100 100 100 2002 2003 2004 100% 100 100 80% 60% 40% 20% 0% 2005 2006 Plenam ente Satisfatório GRÀFICO 2 O indicador STAE tem se apresentado alto na Eletronorte, sobretudo com ações de educação a distância, indicando que a maioria dos treinados estão muito satisfeitos com as ações de educação realizadas, seja com relação ao projeto instrucional, ao desempenho do instrutor e ao desempenho dos treinandos. Sabe-se, entretanto, que reações favoráveis sobre a ação educacional não garantem a transferência das competências adquiridas. É preciso medir o impacto posterior que a ação educacional provoca no trabalho do treinado e também na organização. O Impacto do Treinamento no Trabalho (ITT) é um indicador de educação estratégico para a Eletronorte, pois demonstra a eficácia do treinamento para o trabalho do treinado. O Gráfico 3, a seguir, mostra a evolução desse indicador. GRÁFICO 3 Evolução do ITT - Impacto do Treinamento no Trabalho na Eletronorte (Em percentuais) 100 100 80 75 67 67 53 60 40 33 68 47 33 25 32 20 0 2001 2002 2003 2004 Grande Impacto Moderado Impacto 2005 2006 Percebe-se que os resultados do ITT não se apresentam em um padrão crescente, como ocorre com os resultados da avaliação de reação. Entretanto, vale lembrar que o impacto _ compreendido como a transferência das habilidades ensinadas no treinamento para o trabalho, o suporte organizacional encontrado e o impacto sobre as metas de trabalho do TPM _ não depende apenas da qualidade do projeto instrucional ou do desempenho do instrutor, mas, sobretudo, do suporte gerencial e dos pares encontrado pelo treinado, bem como das características da clientela indicada. O Suporte Organizacional tem sido relatado na literatura como crucial para a transferência de treinamento. Conforme Freitas, Borges-Andrade, Abbad e Pilati (2006, p.490) o impacto de treinamento no trabalho é avaliado em termos da transferência de treinamento e pela influência dessa estratégia sobre o desempenho posterior do treinado. Segundo esses autores, transferência de treinamento “é a aplicação correta, no ambiente de trabalho, de conhecimentos, habilidades e atitudes (CHAs) adquiridos nesses eventos instrucionais” (ib. id. p.490). Segundo Abbad et al. (2001, p. 2), Impacto do Treinamento no Trabalho é a influência da ação sobre o desempenho, motivação e atitudes do treinado. É classificado em dois tipos: avaliação de impacto em amplitude ou em largura, que mede os efeitos gerais do treinamento sobre o desempenho do treinado e avaliação de impacto em profundidade, que mede o efeito do treinamento em tarefa estritamente relacionada ao conteúdo específico do curso. Entretanto, para Kozlowski et al. (2000, p.159), transferência de treinamento tem apenas duas distinções: transferências horizontais, que ocorrem por meio de diferentes rumos ou contextos, no mesmo nível da tarefa executada pelo indivíduo; e as transferências verticais, que se referem ao link entre os resultados do treinamento no indivíduo e na organização. A Avaliação de Impacto utilizada na Eletronorte é a de profundidade e de amplitude, uma vez que avaliam a transferência das competências adquiridas para o trabalho dos treinados, o suporte organizacional encontrado e o impacto sobre os indicadores específicos do TPM. Os resultados encontrados nas Avaliações de Impacto apontam para a necessidade de a Eletronorte prover maior suporte gerencial e social à transferência de treinamento, a fim de aumentar o impacto das ações de educação na empresa, uma vez que esse impacto tem sido mediano, na maioria dos eventos. 6. CONCLUSÃO Um sistema de avaliação de treinamento dessa natureza está apoiado em uma mudança de longo prazo nos valores empresariais, de forma a incluir na organização a cultura da mensuração contínua e objetiva dos processos e dos resultados das ações de educação empresarial. Os dados produzidos pelas avaliações de treinamento fornecem feedback contínuo ao sistema de gestão da educação corporativa na Empresa. A Eletronorte monitora a qualidade do projeto instrucional das ações de educação, assim como o impacto percebido no trabalho dos indivíduos treinados. Nas avaliações de impacto, a categoria pior avaliada pelos treinados tem sido o suporte organizacional, mais especificamente, o suporte psicossocial (gerencial e dos pares). Embora a Eletronorte tenha desenvolvido inúmeros Programas de Desenvolvimento Gerencial, ainda é percebido, pelos treinados, que falta encorajamento, acompanhamento e orientações dos gestores para a transferência das habilidades adquiridas em ações de educação. A empresa necessita investigar em que extensão o suporte organizacional é percebido pelos empregados, ou seja, o quanto ela valoriza a transferência das habilidades adquiridas em treinamento. Hoje, a cultura da empresa está consolidada no que se refere à avaliação de reação e de impacto, pois a maioria dos treinados e respectivos gestores colabora espontaneamente com o Sistema de Avaliação da organização. Na economia do conhecimento, informações precisas, fornecidas por análises científicas, são fatores-chave para as empresas alcançarem sucesso. Os dados encontrados nas avaliações são capazes de agregar valor ao processo de gestão da educação na Eletronorte. REFERÊNCIAS BIBLIOGRÁFICAS ABBAD, G; SALLORENZO, L. H. Desenvolvimento e validação de escalas de suporte à transferência de treinamento. Revista de Administração da USP, São Paulo, v. 36, n. 2, p. 33-45, abr./jun. 2001. BORGES-ANDRADE, J. E. Avaliação Somativa de Sistemas Instrucionais. Tecnologia Educacional,. v..XI, n.46, p. 29-39,1982. CENTRAIS ELÉTRICAS DO NORTE DO BRASIL S/A - ELETRONORTE. Manual do Sistema de Avaliação de Treinamento – SAT. Brasília, 2006. 84 p. CENTRAIS ELÉTRICAS DO NORTE DO BRASIL S/A – ELETRONORTE. Plano Estratégico da Eletronorte. Brasília, 2006. FREITAS, I.A. de et al. Medidas de impacto de TD&E no trabalho e nas organizações. In: BORGES-ANDRADE, J. B.; ABBAD, G.; MOURÃO, L. Treinamento, Desenvolvimento e Educação em Organizações e Trabalho. Porto Alegre: Artmed, 2006. cap. 24, p. 489504. HAMBLIN, A. C. Avaliação e controle de treinamento. São Paulo: McGraw-Hill, 1978. KOZLOWSKI, S. W. J. et al. A Multilevel approach to training effectiveness: enhancing horizontal and vertical transfer. In: KOZLOWSKI, S.W.J. Multilevel Theory: research and methods in organizations. San Francisco: Jossey-Bass, 2000. cap. 4, p. 157-210. SILVA, M. E. Gestão da Educação Corporativa na Eletronorte: estratégias visando à consolidação da Universidade Corporativa Eletronorte – UCEL. In: RICARDO E. J. (Org.) Gestão da Educação Corporativa. São Paulo: Pearson Prentice Hall, 2007, cap. 10, p.109-121.