Un estudio llevado a cabo por investigadores de la Universidad de Penn State, en Estados Unidos, analizó las decisiones que toman los modelos de inteligencia artificial al establecer prioridades entre pacientes que requieren un trasplante. El trabajo, presentado en las conferencias FAccT 2026 en Montreal, se centró en las discrepancias entre las decisiones de los sistemas de IA y los criterios aplicados por humanos ante dilemas médicos complejos.
Los investigadores plantearon a diversos modelos de lenguaje un escenario hipotético en el que varios pacientes necesitaban un trasplante de riñón y solo había un órgano disponible. A partir de esta situación, se solicitó a los sistemas determinar quién debía recibir el órgano.
Para abordar este dilema, los modelos recibieron información sobre pacientes ficticios, que incluía datos como la edad, el estado de salud, los hábitos de consumo de alcohol y el número de personas que dependían de cada paciente. Posteriormente, se compararon las respuestas de los modelos con las decisiones de personas sin formación médica para observar las variaciones en los criterios utilizados.
El estudio reveló que los modelos de inteligencia artificial tendían a simplificar situaciones complejas, priorizando un factor específico en detrimento de una evaluación generalizada de múltiples elementos. Hadi Hosseini, investigador principal del estudio, señaló que los chatbots a menudo difieren de los valores humanos al evaluar las características de un paciente en estos escenarios.
Un ejemplo clave fue la atención hacia el consumo de alcohol. Los investigadores indicaron que algunos modelos se enfocaron en este único aspecto, sin considerar el contexto completo que rodeaba a cada paciente.
Además, otro hallazgo notable fue que, ante la posibilidad de resolver el dilema mediante un sorteo, como lanzar una moneda, la mayoría de los modelos optaron por dar una respuesta definida en lugar de recurrir al azar. Esto pone de manifiesto una diferencia crucial respecto a los dilemas morales, donde a menudo no existe una única respuesta correcta.
El estudio no sugiere el uso de estos modelos como sustitutos del criterio profesional médico. En cambio, su objetivo es proporcionar herramientas para analizar los riesgos que conlleva la incorporación de inteligencia artificial en ámbitos donde las decisiones pueden tener consecuencias significativas.
La donación de órganos es uno de los escenarios más delicados. La escasez de órganos disponibles obliga a establecer criterios para definir prioridades entre las personas que necesitan un trasplante, lo que hace esencial que cualquier herramienta utilizada en este proceso considere múltiples variables y principios éticos.
Los investigadores subrayaron la importancia de continuar investigando el comportamiento de estos sistemas y desarrollar regulaciones a medida que la inteligencia artificial se integre cada vez más en diferentes sectores de la medicina.
El estudio de Penn State añade un nuevo capítulo al debate sobre el alcance de la automatización en decisiones de alto impacto. Si bien los modelos de IA son capaces de procesar grandes volúmenes de información y ofrecer respuestas con rapidez, el trabajo plantea preguntas sobre su habilidad para manejar situaciones que involucran valores humanos, criterios éticos y circunstancias específicas.
En el contexto de trasplantes, el reto no radica únicamente en analizar datos médicos, sino también en determinar cómo se deben ponderar las diversas condiciones de cada paciente cuando los recursos disponibles son insuficientes.
Fuente original: Clic aquí
