¿Cuál es el papel de la toma de decisiones humanas con respecto a la atención médica en un futuro impulsado por la IA?

Investigadores australianos desarrollaron un conjunto de protocolos para un proyecto de investigación en Protocolos de investigación JMIR Su objetivo es explorar si los humanos seguirán teniendo roles significativos en la toma de decisiones en un futuro impulsado por la IA. Los investigadores, la Dra. Nandini Durswamy y la Dra. Louise Horstmanshov de la Universidad Southern Cross, descubrieron que había una escasez de orientación para crear conjuntos completos de protocolos para los métodos utilizados en la investigación compleja de la salud.

Ahora han establecido protocolos que se centran en los servicios de salud no clínicos, como la regulación de la salud y la política de salud. Estos servicios de salud pueden ser complejos, dicen los investigadores, e incluso pueden ser más completos en alcance y escala que la atención médica clínica.

Durante la pandemia, estos servicios han formado un continuo de reglas, leyes y medidas de salud pública que difieren de un país a otro. Una variedad de organizaciones, incluidas organizaciones privadas, empresas comerciales y varios niveles de gobierno pueden participar en la supervisión y el control de estos servicios.

“En este momento, los humanos son los líderes, administradores y tomadores de decisiones en estos complejos servicios de salud”, dijo el Dr. Doreswamy, pero la inteligencia artificial está transformando este espacio. Es hora de preguntarse si los humanos seguirán asumiendo roles significativos en este campo».

La toma de decisiones impulsada por la IA puede no ser tan responsable, imparcial o transparente como quisiera, dicen los investigadores, pero, sin embargo, está comenzando a afianzarse en estas áreas complejas. Puede ser propenso a decisiones incorrectas o injustas, razón por la cual la inteligencia artificial actualmente no está permitida para tomar decisiones finales en servicios de salud complejos.

“Además, la racionalidad siempre ha dominado este espacio”, dijo el Dr. Horstmanshov. ¿Qué papel juega la intuición?

Los investigadores desarrollaron protocolos para un proyecto de investigación destinado a explorar estas cuestiones. El proyecto consta de cuatro pasos. El primero es una revisión que permitirá identificar y mapear los rasgos humanos que influyen en la toma de decisiones en servicios de salud complejos. La segunda es también una revisión, que identificará y mapeará los atributos de la IA que influyen en la toma de decisiones en este contexto.

El tercer paso es un análisis comparativo de los dos conjuntos de rasgos, humanos y de IA, para ver si los humanos tienen rasgos que pueden influir en la toma de decisiones para mejorar. El cuarto y último paso es un estudio de simulación, en el que se presentará un tomador de decisiones humano virtual y de IA virtual en un entorno de política de salud simulado.

“Queremos explorar, al menos en un entorno simulado, cómo los humanos interactúan, monitorean y documentan la IA”, dijo el Dr. Doreswamy. «Puede mostrarnos si es más probable que los humanos compitan, colaboren o converjan con la IA y, por lo tanto, sigan siendo importantes en la toma de decisiones en el futuro, en el complejo campo de la atención médica».

El Dr. Horstmanshoff señaló que los protocolos no solo brindan una hoja de ruta para la investigación propuesta, sino que también brindan un ejemplo de un «protocolo de protocolos» para los métodos utilizados en la investigación en salud. Ella dijo que esto podría ser útil y relevante en otras áreas de investigación compleja, como la interacción humano-IA y la informática de la salud. También puede brindar la oportunidad de investigar más a fondo el tema del sesgo, el predominio de la racionalidad y la posible influencia de la intuición.

Proporcionado por Publicaciones JMIR