A análise psicométrica dos resultados do Concordance Test de Practicum Script é realizada em várias etapas.
Numa primeira fase, esta análise é efetuada com base nos resultados dos membros do painel de peritos de referência durante a resposta ao teste, e
posteriormente complementada com o estudo das respostas obtidas pelos profissionais envolvidos nas atividades de formação médica.
Na análise psicométrica dos resultados, tanto dos peritos validadores como posteriormente dos participantes, usamos os seguintes métodos:
Este tipo de análise permite uma primeira avaliação da qualidade das perguntas. É feita a partir do resultado total do teste, dos resultados em cada uma das vinhetas clínicas e das respostas em cada um dos itens (questões) que compõem cada vinheta ou caso clínico.
A finalidade desta fase é estabelecer a normalidade da distribuição das pontuações em cada um dos três níveis (do grupo total de teste, vinheta e itens), a fim de verificar se eles correspondem aos perfis aceitáveis para uma boa avaliação do teste.
Os índices estatísticos calculados são:
Análise fatorial exploratória e confirmatória para verificar a estabilidade dos fatores ou dimensões que compõem o Concordance Test do Practicum Script, levando em conta que cada atividade de treinamento (teste global) é composta por vinhetas clínicas que pertencem a diferentes áreas temáticas da especialidade e a diferentes tipos de decisões médicas (diagnóstico, Exames complementares e tratamento).
Análise comparativa entre diferentes grupos de validadores, naqueles casos em que o mesmo grupo de teste tenha sido validado por painéis de referência dos diferentes países, a fim de estabilizar o grupo ou subgrupo de referência para os participantes em cada atividade de formação. Os métodos que são usados para este tipo de estudo são:
Análise de itens através de estudos de confiabilidade para medir a homogeneidade global das questões (itens) dentro do grupo de teste e ainda avaliar a qualidade de cada pergunta para diferenciar os participantes de acordo com suas respostas.
Estudos de generalização, primeiro com o modelo de facetas cruzadas e, depois, com facetas que têm perguntas dentro de cada uma delas, que permitem calcular a proporção de cada um dos elementos do teste para a pontuação global observada. Além disso, estas análises permitem verificar o impacto das variâncias dos subgrupos analisados em resultados globais e em particular as variâncias entre grupos de diferentes participantes, bem como o impacto da ordem das vinhetas nos resultados observados.
N.B. Exceto para o cálculo dos resultados totais, para os estudos dos coeficientes, os resultados comuns dos itens correspondentes a cada vinheta são usados de forma a evitar tendências na amplificação das interligações devido à correlação automática entre os itens de uma mesma vinheta.
Prof. Dr. Carlos A. Brailovsky Kurlat
Diretor do Departamento de Psicometria do Instituto Practicum de Investigação Aplicada à Educação em Ciências da Saúde, Madrid, Espanha. Professor emérito da Universidade de Laval. PhD em Psicometria e Pedagogia médica.
Colocamos à sua disposição um serviço de atendimento personalizado, através do qual pode obter suporte técnico e ajuda, tanto para a navegação dentro da página como para a utilização do programa.