MEDIDAS DE AVALIAÇÃO
DE PROCEDIMENTOS,
PROCESSOS E APOIO
INSTRUCIONAIS EM
TD&E
Denise Furlanetto
2011
ALGUNS CONCEITOS
APOIO:
 É parte do conceito de ambiente;
 Abrange fatores do contexto interno e externo
que podem afetar todas as atividade de um
sistema de TD&E;
 condições ou restrições impostas à realização do
evento instrucional enquanto ele ocorre;
 Exemplos: equipamentos; instalações; facilidade
de acesso a material de apoio; transporte;
alimentação
ALGUNS CONCEITOS
PROCEDIMENTOS INSTRUCIONAIS:
 Refere-se, no Modelo MAIS, à ação de TD&E
propriamente dita;
 refere-se a operações, ocorrências e estratégias
instrucionais utilizadas durante o treinamento,
com a finalidade de levar o participante a
alcançar os objetivos instrucionais.
 são as características do desenho instrucional
postas em prática.
 Exemplos: apresentação de objetivos do curso;
tempo destinado a atividade teóricas e práticas,
seqüência de conteúdos, etc
ALGUNS CONCEITOS
PROCESSOS:
 referem-se aos resultados parciais ou
intermediários ocorridos durante a
implementação do evento e observados
principalmente no comportamento do
participante.

Exemplos: erros e acertos em provas,
absenteísmo, desistências, interações
(participante-participante/participante-instrutor.
POR QUE AVALIAR
PROCEDIMENTOS, PROCESSOS E APOIO?
Procedimentos
Processos
São a essência do treinamento;
Possibilitam descrição detalhada do
sistema instrucional;
Permitem verificar quais operações
instrucionais são + eficazes e eficientes para
diferentes clientelas.
Podem subsidiar predições sobre ações de
TD&E de médio e longo prazos;
Permitem saber o que funcionou ou não e
aprimorar (caráter somativo).
POR QUE AVALIAR
PROCEDIMENTOS, PROCESSOS E APOIO?
Pesquisas empíricas mostram que tal
variável é fundamental na predição de
impacto do treinamento no trabalho.
Apoio
Os fatores de apoio à execução do
treinamento vêm se mostrando, na prática,
importantes variáveis que indicam as razões
para abandono, absenteísmo e falta de
motivação para o treinamento.
AO PLANEJAR UMA AVALIAÇÃO DE UM
PROGRAMA INSTRUCIONAL DEVEMOS
PERGUNTAR:


1- O que medir?
Remete à necessidade de definir constructos
envolvidos na avaliação. Ex: apoio,
procedimentos, processos.
Medidas são geralmente extraídas das definições
de cada constructo;
INDICADORES DE AVALIAÇÃO
Em cursos presenciais
Constructo
Indicadores
Salas de aulas: ventilação, tamanho, mobiliário,
layout, acústica
Hospedagem: proximidade do local, hóspedes
por quarto, alimentação
Apoio
Coordenação: facilidade de acesso, presteza no
atendimento
Instalações: banheiros, salas para estudo,
consultas a materiais didáticos
Serviços e recursos de apoio: equipamentos,
materiais
Planejamento ou desenho instrucional:
objetivos instrucionais, seqüência de conteúdos,
Procedimentos estratégias instrucionais
Execução: Desempenho do instrutor, interações
requeridas pelos exercícios
INDICADORES DE AVALIAÇÃO
Em cursos presenciais
Constructo
Indicadores
Resultados de testes ou exercícios práticos
Motivação desenvolvida durante o curso
Quantidade de tempo dedicado ao estudo
individual
Processos
Interações participante-participante,
participante-instrutor
Reações dos participantes às atividades propostas
durante o curso
Nível de absenteísmo não justificado
Quantidade de pessoas que abandonam o curso
INDICADORES DE AVALIAÇÃO
Cursos à distância
Constructo
Indicadores
Interface gráfica
Serviço de apoio técnico
Apoio
Sistema de tutoria: passiva ou ativa,
quantidade de alunos por tutor
Ambiente de estudo: adequação do curso ao
computador, aos locais, preferências e hábitos de
estudos dos participantes, apoio ao participante
na administração do tempo para conclusão das
unidades do curso
Interação com o tutor: natureza e freqüência
Procedimentos
Interação com outros participantes: natureza
e freqüência
Interatividade: tipo de participação exigida
pelas atividades (ativa ou passiva)
Qualidade das avaliações de aprendizagem
INDICADORES DE AVALIAÇÃO
Cursos à distância
Constructo
Indicadores
Resultados de testes, exercícios, provas
Participação em chats, fóruns, listas de discussão
Tempo para conclusão de cada unidade
Interações participante-participante,
participante-instrutor (natureza, freqüência e
qualidade)
Processos
Mensagens de satisfação ou insatisfação com
curso e componentes do curso
Tempo dedicado à realização de exercícios e
estudo individual
Atrasos na entrega de trabalhos
Nível de absenteísmo não justificado a momentos
de atividade síncrona
Quantidade de abandonos
AO PLANEJAR UMA AVALIAÇÃO DE UM
PROGRAMA INSTRUCIONAL DEVEMOS
PERGUNTAR:
2- Com o que medir?


Leva à escolha ou construção e validação de um
instrumentos capazes de gerar informações válidas e
precisas sobre o que se quer avaliar;
Os instrumentos mais utilizados são:
 Questionários de avaliação de reação dos participantes
 Observação com roteiros para registro
 Análise documental do curso
 Testes e/ou provas (na avaliação de variáveis de
processos)
INSTRUMENTOS DE MEDIDA –
PONTOS CRÍTICOS


A escolha dos instrumentos deve levar em conta:
 Características do evento: presencial ou à
distância
 Características da clientela
 Contexto em que o treinamento está inserido
Encontram-se disponíveis instrumentos de
avaliação de reações à procedimentos, processos e
apoio, construídos e validados de acordo com
recomendações técnicas oriundas da psicometria.
EXEMPLOS DE INSTRUMENTOS
Reação ou satisfação com a programação
Pontuação
1-Clareza na definição dos objetivos do curso
2-Compatibilidade dos objetivos com suas
necessidades de treinamento
3-Carga horária programada para as atividades
teóricas
4-Ordenação dos conteúdos
5-Carga horária programada para as atividades
práticas
6-Carga horária diária
7-Adequação do conteúdo aos objetivos
8-Qualidade das instalações
9-Qualidade e organização do material didático
10- Quantidade do material didático
Escala: (5)ótimo, (4)Muito bom, (3)bom, (2)regular, (1)ruim
Fonte: Abbad (1999); Abbad, Borges-Andrade, Sallorenzo, Gama e Morandini (2001)
EXEMPLOS DE INSTRUMENTOS
Desempenho do Instrutor (cursos presenciais)
Pontuação
1-Transmissão dos objetivos do treinamento
2-Nível de profundidade com que os temas e
assuntos foram abordados, tendo em vista os
objetivos do curso
3-Ritmo de apresentação dos tópicos
4-Uso de estratégias instrucionais (estudos de caso,
exposições orais, discussão em grupo) em relação à
apreensão dos conteúdos
5-Qualidade das avaliações de aprendizagem
6-Conhecimento dos temas abordados
7-Segurança na transmissão do conteúdo
8-Disposição para esclarecer dúvidas
Escala: (5)ótimo, (4)Muito bom, (3)bom, (2)regular, (1)ruim
Fonte: Abbad (1999); Abbad, Borges-Andrade, Sallorenzo, Gama e Morandini (2001)
EXEMPLOS DE INSTRUMENTOS
Nota
Reações à Interface Gráfica do curso
( )
Relação entre os nomes e as siglas dos comandos e suas
funções
( )
Relação entre o ícone e sua função
( )
Manutenção da função de um mesmo comando em todas as
telas
( )
Quantidade de passos para chegar na função que preciso
( )
Quantidade de conteúdo por tela
( )
Adequação do ambiente eletrônico do curso à minha
experiência com o uso da Internet
( )
Letras (cor, tipo, tamanho) usadas nos textos
( )
Qualidade das mensagens que recebo do ambiente eletrônico
quando cometo erros de navegação
Escala de 11 pontos, em que 0 corresponde a péssimo, e 10, a excelente
Fonte: Carvalho (2003)
AO PLANEJAR UMA AVALIAÇÃO DE UM
PROGRAMA INSTRUCIONAL DEVEMOS
PERGUNTAR:
3- Como medir?

Leva à definição e seleção de estratégias de coleta e análise
de dados.
4- Como emitir julgamentos de valor a
partir da mensuração?

Requer a escolha do tipo mais adequado de avaliação:
baseada em critério o u norma (dependente da situação)
ETAPAS DE PROCEDIMENTOS
DE AVALIAÇÃO
1-Definir os constructos
2-Listar indicadores
4-Escolher ou construir e
validar instrumentos
3-Identificar instrumentos
5-Escolher fontes e meios
6-Definir avaliadores
8-Definir procedimentos de
análise de dados
7-Definir procedimentos de
coleta de dados
9-Definir relatório e devolução
dos resultados
FONTES, MEIOS E AVALIADORES




Fontes: Primárias ou Secundárias (arquivos e
materiais preexistentes)
Meios: Material impresso, meio eletrônico
Avaliadores: Participantes, instrutores,
desenhistas instrucionais, especialistas em
conteúdo, profissionais de TD&E
A escolha das fontes, meios e avaliadores deve
levar em conta:
Características dos eventos (presenciais ou à
distância)
 Características da clientela
 Contexto em que a ação de TD&E está inserida
 Custos

PARA DEFINIR PROCEDIMENTOS DE
AVALIAÇÃO É PRECISO:



Estudar o caso (características dos eventos, da
clientela e do contexto);
Escolher um modelo de avaliação que defina
claramente seus componentes;
Seguir as etapas 1 a 8 (descritas anteriormente)
DISCUSSÕES FINAIS
Sobre procedimentos:
apesar da importância, há pouca pesquisa, por
ex, sobre operações instrucionais;
Há evidências de que objetivos instrucionais
claros afetam a aprendizagem e que a realização
de atividades práticas aumenta o impacto do
treinamento no trabalho.
DISCUSSÕES FINAIS
Estudos estrangeiros afirmam que reações
favoráveis não garantem necessariamente a
aprendizagem ou a mudança no comportamento do
participante no trabalho.
 Estudos brasileiros já mostram correlações
favoráveis entre reação e impacto do treinamento no
trabalho.
 Abbad, Gama e Borges-Andrade (2000) concluíram
que:


Aprendizagem depende das características do
treinamento, somadas às características pessoais e de
suporte à transferência.
DISCUSSÕES FINAIS


Abbad, Gama e Borges-Andrade (2000) concluíram,
ainda, que:
 Reações dependem de combinações diferentes dos
mesmos conjuntos de variáveis preditoras de
aprendizagem.
 Impacto do treinamento depende fortemente do
suporte à transferência e de variáveis de reações
aos resultados dos treinamentos.
Há avanços na área, mas a multiplicidade de
medidas com definições e estruturas empíricas
diferentes, dificulta a comparação e a análise da
generalidade dos resultados de pesquisas que
tentem correlacionar reação com aprendizagem e
mudanças de comportamento no trabalho
REFERÊNCIA

Abbad, Borges-Andrade, Mourão. Treinamento,
desenvolvimento e educação em organizações e
trabalho: fundamentos para a gestão de pessoas.
Artmed: Porto Alegre, 2006 p.443-468
Download

APRES_2011_Furlanetto_Medidas de avaliação de