Faculdade de Medicina da Universidade do Porto
Introdução à Medicina
AVALIAÇÃO DA UTILIZAÇÃO DOS SISTEMAS
ELECTRÓNICOS DE RECOLHA DE
INFORMAÇÃO POR PARTE DOS MÉDICOS
Afonso, M.; Fernandes, M.; Ferreira, M.; Ferreira, M. F.; Morais, M.;
Neto, M.; Pintalhão, M.; Sousa, M.; Torres, M.
Regente da disciplina: Prof. Dr. Altamiro da Costa Pereira
Orientador: Dr. Ricardo Correia
2004/2005
Na primeira apresentação...
Objectivo:
- Revisão sistemática sobre o uso clínico dos sistemas de
recolha de informação por parte dos médicos (artigos entre 1998 e
2004)
Introdução:
- utilização crescente dos sistemas de recolha de informação
por parte dos médicos e/ou estudantes de medicina
- necessidade da avaliação destes sistemas
- breve esclarecimento do tema
Na primeira apresentação...
Métodos:
- combinação de termos MeSH
- definição dos critérios de inclusão dos artigos:
. Avaliação de sistemas de recolha de informação
. Resultados do uso destes por médicos
. Aplicação destes na resolução de situações clínicas
- selecção dos artigos pelo título (de acordo com os critérios
supracitados)
48 artigos seleccionados
O Que Fizemos Até Agora...
Revisão da selecção dos artigos
Procura do full-text dos artigos seleccionados
Leitura e análise dos artigos por 2 revisores
Apresentação e discussão dos resultados
Redacção do rascunho do artigo
Elaboração da página na Internet
Elaboração do artigo final
Revisão da selecção dos artigos
3 revisores alheios à primeira selecção
Nova selecção pelo título
Em caso de dúvida foi feita a leitura do abstract
Comparação dos resultados da pesquisa formal com os
resultados da revisão da selecção dos artigos:
Pesquisa
utilizada
Pesquisa dos
revisores
Número de artigos
seleccionados
30
29
Precisão
8,2 %
7,9 %
Relative recall
81,1 %
78,4 %
Tabela 1 – Resultados da revisão da selecção dos artigos
Revisão da selecção dos artigos
Pretendeu-se determinar a reprodutibilidade
do método
Permitiu
elaborar
uma
tabela
concordância (disponível na página da Web)
de
As medidas calculadas são semelhantes
nos dois casos
Exemplos De Títulos De Artigos
Seleccionados
TÍTULO
DECISÃO
«Medical Research. Finding The
Best Information.»
SELECCIONADO
«Tagging Gene and Protein
Names in Biomedical text»
NÃO SELECCIONADO
Tabela 2- Selecção pelo título (exemplos)
Procura do full-text dos artigos
seleccionados
MEDLINE (através da rede informática da Universidade do Porto)
Revistas disponíveis na biblioteca da FMUP e bibliotecas vizinhas
Contacto dos autores dos artigos por correio electrónico
Os 16 artigos não encontrados desta forma foram
excluídos
Leitura E Análise Dos Artigos Seleccionados
Por 2 Revisores
Executado por 2 elementos
Análise dos 32 artigos com base nos critérios:
1) Frequência de utilização dos sistemas electrónicos
de informação (por parte dos médicos ou estudantes de medicina);
2) Propósito da sua utilização;
3) Satisfação do utilizador;
Leitura e análise dos artigos seleccionados
por 2 revisores
4) Efectividade dos sistemas na pesquisa (dada por
- precisão e recall;
- factores inerentes ao utilizador;
- comparação entre pesquisa manual e electrónica;
- comparação entre diferentes bases de dados.
5) Razões do insucesso na pesquisa;
6) Aplicação/Impacto da evidência na prática clínica.
- Consideraram-se os artigos com pelo menos um destes critérios
- 23 obedeciam a este requisito e foram sujeitos a análise
RESULTADOS
E
DISCUSSÃO
Análise dos artigos
Tabela de análise
Tabela SPSS
Características dos Artigos
60
30
50
40
20
30
20
10
Percent
Percent
10
0
EUA
França
Canada
Holanda
Reino Unido
Australia
País
Gráfico 1- País de origem dos artigos (%)
0
1998
1999
2000
2001
2002
2003
2004
Ano de Publicação
Gráfico 2- Ano de publicação dos artigos (%)
Características dos Artigos
40
Percent
30
20
10
0
EE (*)
EC
R
tipo de estudo
Gráfico 3- Tipo de estudo (%)
ET
100
100
80
80
60
60
40
40
20
20
Percent
Percent
Características dos Artigos
0
Missing
Não
Sim
objectivo semelhante
Gráfico 4 – O objectivo do artigo é
semelhante ao nosso? (%)
0
Missing
Não
Sim
cumpre o objectivo inicial
Gráfico 5 – O artigo cumpre o seu
objectivo? (%)
1) Frequência De Utilização Dos
Sistemas Electrónicos De Informação
Assunto pouco abordado nos artigos (3)
Participantes/
Recursos
Web
MEDLINE
Fontes
literárias
45 estudantes de
medicina (10)
Média de 11,0
vezes por mês
Média de 2,4 vezes
por mês
Média de 7,1
vezes por mês
31 profissionais
de saúde (15)
142 instituições
de saúde (19)
Média de vezes:
6,7 no ano anterior
1,3 no mês anterior
0,3 na semana
antecedente
42 (30 %)
99 das que
não usavam
passariam a
usar no futuro
17 (40 %)
59 % das que usavam
recursos da NLM
pesquisavam
raramente
Tabela 3- frequência de utilização dos sistemas electrónicos de informação
1) Frequência De Utilização Dos
Sistemas Electrónicos De Informação
Não se podem tirar conclusões definitivas
Uso reduzido destes sistemas
Preferência da Web à MEDLINE e à literatura
1) Frequência De Utilização Dos
Sistemas Electrónicos De Informação
Propósito futuro de utilização mais frequente deste
sistemas
Frequência do uso é maior quando conhecidas as
vantagens dos sistemas
A pesquisa por meios electrónicos é mais frequente do
que por meios manuais
2) Propósito Da Sua Utilização
Artigo
Actualização do
conhecimento
Condução de
investigação
científica
Resposta a
questões
clínicas
Erickson et al (15)
X
X
X
JAMA (2)
X
Shen et al (17)
Langham et al (13)
Outros
X
X
X
X
Tabela 4 – Propósito do uso dos sistemas de recolha de informação
X
3) Satisfação Do Utilizador
Nº artigos incluídos : 3 (10) (30) (15)
Método mais utilizado: Questionnaire for User
Interface Satisfaction (QUIS) 5.0
- mede a satisfação do utilizador perante um sistema
computorizado
- escala de zero (fraco) a nove (excelente)
3) Satisfação Do Utilizador
Artigo
Hersh et
al (10)
Hersh et
al (30)
S
Erickson
&ER
Warner
(15)
N
45
estudantes
de medicina
+ 21 de
enfermagem
20
estudantes
de medicina
+ 9 de
enfermagem
31 internos
de
ginecologia
e obstetrícia
Objectivo
Comparar
os 2 grupos
de
estudantes
em relação
a várias
variáveis
Método
Resultado
QUIS
6,8
QUIS
Efeito de
uma sessão Escala de
de 1 hora
1 (muito
de treino em insatisfeito)
vários
a 5 (muito
factores
satisfeito)
Outras
conclusões
6,3
inexistência de
relação entre o
melhoramento da
pesquisa e
satisfação do
utilizador
3,9
inexistência de
diferenças
estatisticamente
significativas na
taxa de satisfação
entre os grupos
com e sem treino
Tabela 5 – Análise dos artigos incluídos no critério da satisfação do utilizador
3) Satisfação Do Utilizador
Média da taxa de satisfação = 7.5 (escala de
1-10)
Sistemas de recolha de informação
electrónicos trazem satisfação a quem os
utiliza
4) Efectividade Dos Sistemas Na
Pesquisa
Utilidade da Pesquisa
Acerca dos sistemas de recolha de
informação electrónicos é necessário
compreender até que ponto eles de facto
são úteis.
4) Efectividade Dos Sistemas Na
Pesquisa
Caracterização da eficiência das pesquisas por métodos quantitativos
e resposta a questões clínicas:
Princípio de que se parte → o número de artigos relevantes encontrados
numa pesquisa, bem como o tempo gasto na mesma, estão
relacionados com o sucesso na resposta a questões clínicas (14)
↓
recall e a precisão poderiam ser bons avaliadores da apetência destes
sistemas.
(relação de proporcionalidade inversa entre as duas medidas citadas)(9, 10)
4) Efectividade Dos Sistemas Na
Pesquisa
Outras estratégias no uso da MEDLINE no sentido de
refinar e adequar a pesquisa aos objectivos pretendidos (4)
↓
- termos MeSH;
- busca por text words;
- função explode;
- função truncation;
- os operadores Booleanos;
- os limites;
- os filtros metodológicos (função Clinical Queries)
(rejeitam artigos que não usem um dado método de investigação aplicando
uma combinação de termos MeSH e text words relacionados com o desenho de
estudo e metodologia).
4) Efectividade Dos Sistemas Na
Pesquisa
O recall obtido é baixo, considerando que praticamente
todos os valores são inferiores a 50%,
↓
sistemas electrónicos não estarão ainda preparados para
pôr ao dispor do utilizador a informação que têm
disponível
O recall aumenta quando mais que uma estratégia de
pesquisa é utilizada (3)
↓
é desejável a combinação de mais que uma estratégia (9)
4) Efectividade Dos Sistemas Na
Pesquisa
Importância dos sistemas de recolha de
informação electrónicos na resposta a
questões clínicas: (10, 30)
- melhoram a taxa de respostas correctas
- aumentam a capacidade do profissional de
saúde de resposta a questões clínicas para
além do seu conhecimento base
4) Efectividade Dos Sistemas Na
Pesquisa
Nova abordagem para a qualificação da eficiência das
pesquisas (22)
↓
relevância dos artigos
+
avaliação da qualidade dos resultados obtidos
- prestígio da revista em que foi publicado
- desenho de estudo
- tipo de publicação)
4) Efectividade Dos Sistemas Na
Pesquisa
Factores Inerentes ao utilizador
(6 artigos)
Treino e formação
Pesquisas em cooperação
(+)
(+)
Outros factores:
Demográficos (ex. Tipo de estudante) (+)
Factores cognitivos
(-)
Factores de personalidade
(-)
Experiência com computadores
(-)
Riqueza em vocabulário do utilizador (+)
4) Efectividade Dos Sistemas Na
Pesquisa
Pesquisa Manual / Pesquisa Electrónica
3 artigos: 25, 8, 29
4) Efectividade Dos Sistemas Na
Pesquisa
Figura 1- Artigo de Hopewell et all (25)
Figura 2- Artigo de Hopewell et all (25)
4) Efectividade Dos Sistemas Na
Pesquisa
Figura 3- Artigo de Suarez-Almazor et al (8)
4) Efectividade Dos Sistemas Na
Pesquisa
Diferenças entre o número de ensaios clínicos
randomizados identificados através da pesquisa
manual ou através da MEDLINE
Diferenças entre a sensibilidade obtida por cada um
dos métodos;
Melhores resultados quando utilizada a pesquisa
manual;
A pesquisa manual não deve ser o único método de
pesquisa;
4) Efectividade Dos Sistemas Na
Pesquisa
Conjugação dos dois métodos para uma pesquisa
mais completa e mais válida;
Não deixar de parte a pesquisa manual, pois apesar
de trabalhosa e dispendiosa existem ainda muitos
artigos que não estão indexados na MEDLINE ou
noutro tipo de bases de dados.
4) Efectividade Dos Sistemas Na
Pesquisa
Comparação entre diferentes bases de dados
Artigos citados: (26) (3) (19) (27)
Diferenças entre as bases de dados:
- número de revistas e referências citadas
- sistema de indexação
A utilidade da pesquisa depende da eficiência da base de dados
escolhida
4) Efectividade Dos Sistemas Na
Pesquisa
Estudo
(base(s) de dados)
Resultados das
pesquisas
(recall)
N.º total de
documentos
conhecidos
Tema(s) da
pesquisa
Gehanno et al (10)
Medline
Niosh-tic
Embase e Medline ou Toxline
Medline e Niosh-tic
Medline, Embase e Biosis
Medline, Toxline e Nioshtic
Medline, Embase, Toxline e Biosis
Medline, Toxline, Biosis e Nioshtic
63% (A)
11% (B)
86% (A)
42% (B)
96% (A)
72% (B)
99% (B)
83% (A)
Mesotelioma e abestos
(A)
Alergia ao látex (B)
N = 315
N = 462
Derry et al (19)
Medline
Embase
Medline e Embase
Em nenhuma delas
49%
40%
52%
48%
Efeitos adversos
medicamentos
de
N = 107
Suarez-Almazor et al (26)
Medline
Embase
Medline e Embase
77%
90%
99%
Dores
osteoporose
reumatóide
lombares,
e artrite
N = 243
Tabela 6 - comparação entre bases de dados
4) Efectividade Dos Sistemas Na
Pesquisa
Strain et al (27) compara sistemas on-line e em CD-rom:
 Sistemas on-line:
- MEDLINE → pesquisas são morosas; 1/3 dos artigos publicados não têm
registo
- Micromedex → mais fácil de usar e com mais informação do que a
MEDLINE; informação delineada, sumariada e referenciada; baixa precisão
Sistemas em CD-rom:
- Reactions → regista 7500 revistas, mas é lento
- AHF’s -→ não apresenta referências
- PDR → pesquisa incompleta
4) Efectividade Dos Sistemas Na
Pesquisa
Resultados da pesquisa na mesma base de
dados discrepantes
Eficiência da base de dados relacionada com o
tema da pesquisa
Devem escolher-se bases de dados
adaptadas ao assunto em estudo
5) Razões Do Insucesso Na Pesquisa
Causas
Artigos
Allison et al (9)
Má
elaboração
da questão
clínica
Ausência de
abstracts/
abstracts
estruturados
Base de
dados
inapropriada
X
X
Shen et al (17)
X
X
Robinson et al
(28)
Murphy et al
(29)
Desequilíbrio
entre recall e
precisão
Inadequação de
limites
X
X
X
X
X
Derry et al (19)
Strain et al (27)
Falta de
treino do
utilizador
X
Hersh et al (12)
Shaw et al (20)
Problemas
de
indexação/
Mesh
X
X
X
X
X
X
X
X
Tabela 7 - Causas do insucesso na pesquisa
X
5) Razões Do Insucesso Na Pesquisa
Problemas na construção de uma questão clínica bem
elaborada;
Treino inadequado do utilizador;
Base de dados inapropriada → Informação limitada nas
bases de dados (ex.: 1/3 dos artigos não está disponível
na Medline);
Problemas nas práticas de indexação (não indexação de
alguns artigos com termos adequados) → Problemas
no uso dos termos MeSH;
5) Razões Do Insucesso Na Pesquisa
Problema na capacidade de equilibrar recall e
precisão;
Problemas
pesquisa;
na
adequação
dos
limites
Ausência de abstract/abstracts estruturados.
à
6) Aplicação/Impacto Da Evidência Na
Prática Clínica
LIMITAÇÕES
a) Inerentes aos resultados
b) Inerentes à pesquisa
Ilustração provável da
qualidade de utilização de
sistemas electrónicos de
recolha de informação.
CONCLUSÕES
Baixa frequência de uso
É preferida a pesquisa na Web, em detrimento de bases de dados,
como a MEDLINE, ou pesquisa manual
Principal objectivo das pesquisas electrónicas – procura de
respostas a questões clínicas
Satisfação do utilizador elevada
Estratégias para a optimização das pesquisas:
- escolha de base de dados adaptada ao tema
- combinação de mais de uma base de dados
- combinação de estratégias de pesquisa (termos MeSH, lógica
Booleana…)
- apoio de pesquisa manual
- cooperação com bibliotecários
Treino e formação de profissionais  melhoria
do desempenho na utilização dos sistemas de
informação  maior capacidade de resposta a
questões clínicas
Causas do insucesso das pesquisas:
- Falta de MeSH específicos
- Estrutura de indexação incoerente
- Desequilíbrios entre recall e precisão
- Falta de informação no abstract
ELABORAÇÃO
DA
PÁGINA
NA
INTERNET
Download

2ª apresentação - Medicina