MADRID, 9 Dic. (EUROPA PRESS) – La llegada masiva de la inteligencia artificial a la medicina promete facilitar la vida de los profesionales, pero también plantea un riesgo silencioso: ¿podría estar afectando la forma en que los médicos piensan y toman decisiones? La dependencia de estas herramientas podría estar moldeando de manera sutil, pero profunda, a quienes están en formación.
El riesgo oculto de la IA en la formación médica
La dependencia excesiva de la IA generativa corre el riesgo de erosionar las capacidades de pensamiento crítico de los médicos nuevos y futuros, al tiempo que podría reforzar el sesgo y la inequidad de los datos existentes. Así lo advierte un editorial de expertos de la Universidad de Missouri (Estados Unidos), publicado en la revista ‘BMJ Evidence Based Medicine’.
Las herramientas GenAI ya se están utilizando ampliamente en medio de pocas políticas institucionales y orientación regulatoria. Los investigadores instan a los educadores médicos a ejercer vigilancia y ajustar los planes de estudio y la capacitación para mitigar los peligros de esta tecnología.
El uso de IA se está implementando en una amplia gama de tareas, pero junto con su creciente potencial, viene un riesgo cada vez mayor de dependencia excesiva que puede generar problemas para los estudiantes de medicina y los médicos en formación.
Sesgos, errores y dependencia: los peligros de la automatización
Entre los riesgos se incluye el sesgo de automatización, que se refiere a la confianza acrítica en la información automatizada tras un uso prolongado. Esto puede desencadenar una descarga cognitiva y externalización del razonamiento al trasladar la recuperación, evaluación y síntesis de información a la IA, lo cual socava el pensamiento crítico y la retención de la memoria.
Además, existe la preocupación por la descualificación o debilitamiento de las habilidades, lo cual es especialmente crucial para aquellos estudiantes y médicos recién calificados que están aprendiendo estas habilidades y carecen de la experiencia necesaria para cuestionar los consejos proporcionados por la IA.
Entre otros problemas, se refuerzan los sesgos y la inequidad de los datos existentes. También ocurre la generación de alucinaciones en forma de información plausible pero inexacta, así como posibles violaciones de privacidad y seguridad de los datos. Los autores sugieren varios cambios para ayudar a minimizar estos riesgos, como cambiar la evaluación del proceso en lugar de solo el producto final en las evaluaciones educativas, asumiendo que los estudiantes habrán utilizado IA.
Por ello, proponen diseñar evaluaciones de habilidades críticas que excluyan la IA y que utilicen estaciones supervisadas o exámenes en persona, especialmente para la comunicación junto a la cama del paciente, el examen físico, el trabajo en equipo y el juicio profesional.
Evaluar la IA como competencia también podría ser prudente, ya que «la alfabetización de datos y la enseñanza del diseño, desarrollo y evaluación de la IA son más importantes ahora que nunca, y este conocimiento ya no es un lujo para los estudiantes y médicos en formación», añaden los expertos.
Los médicos en formación deben comprender los principios que sustentan las fortalezas y debilidades de la IA, así como cómo se pueden incorporar de manera útil las herramientas de IA en los flujos de trabajo clínicos y las vías de atención. Además, enfatizan que deben saber cómo evaluar el rendimiento previsto y los posibles sesgos a lo largo del tiempo.
Es especialmente necesaria una enseñanza mejorada del pensamiento crítico, que se puede lograr creando casos donde los resultados de la IA sean una combinación de respuestas correctas e intencionalmente erróneas.
Preparar a los médicos para un uso responsable de la IA
Los estudiantes aceptarían, modificarían o rechazarían la información proporcionada por la IA, justificando su decisión con fuentes primarias basadas en evidencia. Los reguladores, las sociedades profesionales y las asociaciones educativas de todo el mundo también deben desempeñar su parte, produciendo y actualizando regularmente directrices sobre el impacto de la IA en la educación médica.
En conclusión, «la IA generativa tiene beneficios documentados y bien investigados, pero no está exenta de inconvenientes, especialmente para la educación médica y los estudiantes noveles. Estas herramientas pueden falsificar fuentes, codificar sesgos, generar dependencia excesiva y tener efectos negativos en la trayectoria educativa. Los programas médicos deben estar atentos a estos riesgos y adaptar sus planes de estudio y programas de capacitación para anticiparse a ellos y mitigar su probabilidad».
