La realización del análisis psicométrico de los resultados de los Practicum Script Concordance Test se lleva a cabo en varias etapas.
En una primera fase, dicho análisis se efectúa a partir de los resultados de los miembros del panel de expertos de referencia durante la contestación de los test y
posteriormente se complementa con el estudio de las respuestas obtenidas por los profesionales que participan en las actividades de formación médica.
En los análisis psicométricos de los resultados, tanto de los expertos validadores como a posteriori de los participantes, utilizamos los siguientes métodos:
Este tipo de análisis posibilita una primera evaluación de la calidad de las preguntas. Se efectúa a partir del score total al test, de los resultados en cada una de las viñetas clínicas y de las respuestas en cada uno de los ítems (preguntas) que componen cada viñeta o caso clínico.
La finalidad de esta etapa es establecer la normalidad de las distribuciones de los scores en cada uno de estos tres niveles (del grupo total de test, viñeta e ítems), con el objeto de verificar que se corresponden con perfiles aceptables para un buen test de evaluación.
Los índices estadísticos que se calculan son:
Análisis factoriales exploratorios y confirmatorios para verificar la estabilidad de los factores o dimensiones que componen los Practicum Script Concordance Test, teniendo en cuenta que cada actividad formativa (test global) está compuesta por viñetas clínicas que pertenecen a distintas áreas temáticas de la especialidad y a tipos diferentes de decisiones médicas (diagnóstico, estudios complementarios y tratamiento).
Análisis comparativos entre diferentes grupos de validadores, en aquellos casos en que un mismo grupo de test hubiera sido validado por paneles de referencia de distintos países, con el objeto de estabilizar el grupo o subgrupo de referencia para los participantes en cada actividad formativa. Los métodos que se usan para este tipo de estudio son:
Análisis de ítems, a través de estudios de confiabilidad para medir la homogeneidad global de las preguntas (ítems) dentro del grupo de test y evaluar adicionalmente la calidad de cada pregunta para discriminar los participantes en función de sus respuestas.
Estudios de generalizabilidad, primero con el modelo de facetas cruzadas y luego con facetas que tienen preguntas anidadas al interior de cada una de ellas, los cuales permiten calcular la proporción de cada uno de los elementos del test al score global observado. Además, estos análisis permitan verificar el impacto de las varianzas de los subgrupos analizados en los escores globales y en particular las varianzas entre grupos de distintos participantes, así como el impacto del orden de las viñetas sobre los resultados observados.
N.B. Salvo para el cálculo de los escores totales, para los estudios de los coeficientes, se usan los resultados conjuntos de los ítems correspondientes a cada viñeta de manera a evitar sesgos de amplificación de las intercorrelaciones debidas a la auto correlación entre ítems de una misma viñeta.
Prof. Dr. Carlos A. Brailovsky Kurlat
Director del Departamento de Psicometría del Instituto Practicum de Investigación Aplicada a la Educación en Ciencias de la Salud, Madrid, España. Profesor emérito de la Universidad Laval. PhD en Psicometría y en Pedagogía médica.
Ponemos a su disposición un servicio de atención personalizado, a través del cual obtener soporte técnico y ayuda, tanto para la navegación dentro del sitio como para el uso del programa.