Los médicos de IA van a hacer que la atención médica sea mejor y más cuidadosa

Oct 06, 2023

Nadie espera sutilezas delicadas de un chatbot. Escritura mediocre, claro, junto con algunos hechos inventados y un poco de racismo al azar. Yo mismo he escrito sobre esas desventajas de la IA.

Pero estos grandes y nuevos chatbots, como sabemos, también pueden generar respuestas que parecen humanas a las indicaciones y preguntas. Y en una prueba cara a cara reciente, esa capacidad le dio a los bots una sorprendente superioridad en lo que debería ser una de las actividades más intrínsecamente humanas: servir como médico.

Para realizar la prueba, un equipo de investigadores de la Universidad de California en San Diego buscó en r/AskDocs, un foro de Reddit donde profesionales de la salud registrados y verificados responden las preguntas médicas de las personas. Los investigadores seleccionaron casi 200 preguntas representativas en el foro, desde las que suenan tontas ("Me tragué un palillo, un amigo dijo que me voy a morir") hasta las aterradoras ("¿Aborto espontáneo un día después de una ecografía normal?"). Luego introdujeron las preguntas en las fauces virtuales del bot ChatGPT e hicieron que un grupo separado de expertos en atención médica realizara una evaluación ciega de las respuestas tanto de la IA como de los médicos.

Los resultados fueron impactantes. Por un lado, ChatGPT salió muy por delante de los médicos humanos en cuanto a utilidad. Casi invariablemente, las respuestas del chatbot se calificaron como tres o cuatro veces más confiables que las de los pobres humanos. Además, los bots no mostraron ninguna de las angustiosas tendencias a inventar cosas que suelen tener en otras circunstancias.

Pero aquí está la parte más llamativa: las respuestas del chatbot, en promedio, fueron calificadas siete veces más empáticas que las de los humanos. ¡Siete veces! Le brindaron justo lo que desea de su médico: atención y una conexión emocional. Es como si el insensible androide Mr. Data hubiera descubierto cómo emular de manera convincente la forma reconfortante de Dr. Crusher junto a la cama.

Es cierto que el listón está bajo para vencer a los médicos humanos por mostrar empatía. Aún así, la aparente facilidad con la que el bot podía manejar las preocupaciones médicas, tanto en estilo como en sustancia, presagia un uso real en el mundo real para estas cosas. Soy escéptico de que los bots de IA impulsados ​​por grandes modelos lingüísticos revolucionarán el periodismo o incluso mejorarán la búsqueda en Internet. Supongo que estoy abierto a la idea de que acelerarán la codificación de software y el análisis de hojas de cálculo. Pero ahora creo que con algunos retoques, los chatbots podrían mejorar radicalmente la forma en que las personas interactúan con los proveedores de atención médica y nuestro complejo médico-industrial roto.

El objetivo del experimento de empatía no era mostrar que ChatGPT podría reemplazar a un médico o una enfermera. Fue para mostrar que un chatbot podría tener un papel en la prestación de atención. Nuestro sistema de salud con fines de lucro no contrata suficientes médicos y enfermeras, y espera que los que contrata traten a más y más pacientes, al estilo de una cadena de montaje. A nadie le gusta, excepto a la gente que se enriquece.

"La gente está desconectada de la atención médica y está desesperada", dice John Ayers, epidemiólogo computacional de UC San Diego y autor principal del nuevo artículo. Entonces están buscando respuestas en foros como r/AskDocs. "Así es como lo hacen los pacientes ahora. Y los médicos no se inscribieron".

La presión para responder a esos mensajes se ha vuelto intensa. La pandemia de COVID aceleró el contacto remoto en línea entre médicos y pacientes, e incluso en el primer año de la pandemia, la investigación sugirió que los médicos pasaban casi una hora todos los días laborales lidiando con sus bandejas de entrada de correo electrónico. Agregue el trato con otra tecnocracia de registros médicos electrónicos y terminará con algunos médicos dedicando la mitad de su tiempo todos los días a estas idas y venidas. Es suficiente que el seguro a menudo facture por el tiempo dedicado a responder mensajes, lo que los convierte en una fuente potencial de ingresos más allá de las interacciones cara a cara.

Estudios anteriores preguntaron si a los pacientes y médicos les gusta usar estos sistemas de mensajería; Ayers analizó si el sistema realmente funciona. "Utilizamos mensajes reales", dice. "Nadie ha hecho eso antes". El resultado, basado en la calidad de las interacciones, fue definitivo. "ChatGPT ganó de forma aplastante", dice Ayers. "Esto probablemente esté listo para el horario de máxima audiencia".

Basado en el éxito inicial del bot, Ayers está listo para ver qué más puede manejar. "Queremos comenzar ensayos controlados aleatorios, en los que evalúe los mensajes de los pacientes frente a los resultados de los pacientes", dice, no solo si los mensajes son precisos o empáticos, sino también si ayudan a mantener a las personas más saludables o vivas por más tiempo. ¿Qué pasaría si un chatbot pudiera ayudar a alguien que se está recuperando de un ataque cardíaco a seguir una dieta baja en sal, recordarle que tome sus medicamentos y mantener su tratamiento actualizado? "Un mensaje en ese caso podría salvar la vida de ese paciente", dice Ayers.

A pesar de todas las promesas del mundo tecnológico de las mascotas robóticas y los psicoterapeutas de IA, la idea de un chatbot cariñoso todavía se siente desestabilizadora, tal vez incluso peligrosa. Nadie piensa que a ChatGPT realmente le importe, más de lo que creen que es realmente inteligente. Pero si nuestro sistema de salud actual, que no funciona, hace que sea imposible que los humanos se cuiden unos a otros, tal vez el cuidado falso salve vidas reales. Un asistente artificialmente inteligente puede no ser más humano que humano, pero tal vez sea más humano.

Los sistemas de inteligencia artificial especializados, no los chatbots tontos, ya son bastante buenos en el diagnóstico. Están altamente capacitados para detectar una cosa, como un tumor o sepsis, utilizando resultados de pruebas específicas como entrada. Pero son caros y difíciles de construir. Entonces, el establecimiento médico está saltando a los chatbots como una herramienta más barata y ubicua. Docenas de empresas están trabajando en aplicaciones, con el objetivo de usos que van desde el diagnóstico de enfermedades hasta ayudar con el papeleo que de alguna manera se ha convertido en responsabilidad tanto de médicos como de pacientes. Si tiene la suerte de tener un seguro de salud, es probable que su compañía de seguros ya tenga algún tipo de chatbot tonto con el que pueda hablar antes de que pueda llamar a un humano por teléfono.

Si le preguntas a la gente si les gusta esa idea, en su mayoría dicen que no. El sesenta por ciento de los estadounidenses encuestados recientemente por el Centro de Investigación Pew dijeron que no querrían un sistema de inteligencia artificial que diagnostique lo que les está afectando o proponga tratamientos. Pero probablemente lo conseguirán de todos modos. No le digas a nadie que dije esto, pero mucho de lo que hacen los trabajadores de la salud ya es un poco formulado, al menos en el nivel más bajo, la interfaz orientada al paciente. Se siente mal y llama a una enfermera asesora; hacen preguntas preestablecidas para determinar si debe ir a una sala de emergencias o simplemente ir a tomar un Tylenol. Eso se llama triaje. O, si tiene acceso electrónico a sus registros médicos, tal vez obtenga los resultados de un nuevo conjunto de pruebas y envíe un correo electrónico a su médico para preguntar qué significan. De cualquier manera, no esperas disfrutar de estos encuentros. Son superficiales. Robótica, incluso.

Bueno, ¿sabes quién es muy bueno en cosas robóticas? ¡Robots! Recientemente, un equipo de investigadores de Harvard mostró decenas de descripciones de problemas de salud a tres grupos: médicos, personas sin formación médica y ChatGPT. Pidieron a todos (y cosas) que diagnosticaran la enfermedad y luego recomendaciones de clasificación.

A los humanos que no eran médicos se les permitió hacer una búsqueda en Internet, lo que la gente de atención médica llama, con pavor, "Dr. Google". Pero incluso con la asistencia en línea, los humanos no capacitados fueron terribles en el diagnóstico. No hay sorpresa allí. Pero, como informan los investigadores en una preimpresión reciente, lo que significa que aún no ha sido revisado por pares, el chatbot fue casi tan bueno en el diagnóstico (con una puntuación superior al 80 %) como los médicos humanos (que obtuvieron una puntuación superior al 90 %). Y en la clasificación, ChatGPT obtuvo un poco más del 70 % de respuestas correctas. Eso suena horrible en comparación con el 91% del médico, ¡pero aun así! Este es un chatbot de propósito general, casi tan bueno como un médico completamente capacitado.

Ahora imagine agregar a ese conjunto de habilidades el tipo de tareas de atención médica mundanas y que consumen mucho tiempo que los chatbots deberían poder manejar, como programar citas, solicitar autorización previa del seguro y manejar registros médicos electrónicos. "Estas son tareas para las que nadie entró en la medicina, y son dolores de cabeza masivos, sumideros de tiempo masivos, agotadores física y emocionalmente", dice Teva Brender, médico residente de la Universidad de California en San Francisco. Tal vez un chatbot podría generar al menos los inicios de este tipo de tráfico burocrático, junto con todos los correos electrónicos a los pacientes. "El médico podría hojearlo y decir: 'Sí, esto es correcto' y enviarlo", dice Brender.

Ese parece un escenario probable. Los chatbots altamente capacitados trabajarán en conjunto con médicos, enfermeras y asistentes médicos para brindar respuestas más empáticas y completas a las personas que necesitan atención. Como escribió el equipo de Ayers en 2019, las personas están tan desesperadas por recibir ayuda médica que publican imágenes de sus propios genitales en el subreddit r/STD con la esperanza de obtener un diagnóstico preciso. Eso es simplemente triste más allá de lo creíble, y una acusación asombrosa de nuestro sistema de salud verdaderamente inhumano y de mierda.

En un sistema tan pobre, la IA en realidad podría ser una mejora. "Un médico humano respaldado por la base de conocimientos y el poder de procesamiento de los sistemas de IA solo será mejor", dice Jonathan Chen, médico de la Facultad de Medicina de la Universidad de Stanford que ha estado estudiando los sistemas de IA. "Es muy probable que los pacientes busquen consejos médicos imperfectos de sistemas automatizados con disponibilidad las 24 horas del día, los 7 días de la semana, en lugar de esperar meses para una cita con un experto humano".

Para mejorar esos sistemas impulsados ​​por IA, muchas personas, incluido el equipo de Ayers, ahora están trabajando en modelos de lenguaje más pequeños ajustados con información médica. El atractivo de ChatGPT, tal como es, es que es un aporte generalista de todo lo que hay en Internet. Pero así es como se cuelan los sesgos y la información errónea. Dé a esos chatbots médicos acceso a los registros médicos individuales de las personas, y podrían ofrecer consejos dirigidos con mayor precisión. "Cuando esta tecnología obtiene acceso a los registros de salud electrónicos, ese es el verdadero cambio de juego", dice Ayers.

Si un futuro de consejos de salud impulsados ​​por IA, completo con acceso a sus registros médicos, lo preocupa, no lo culpo. Los malos resultados de ciencia ficción aquí son bastante distópicos. Después de años de trabajo, la Administración de Alimentos y Medicamentos aún no cuenta con un marco que esté listo para regular la IA y el aprendizaje automático en dispositivos médicos. Alguien tendrá que resolver todas las cuestiones de responsabilidad relacionadas con los consejos de los chatbots, especialmente cuando son malos. Las nuevas empresas de IA de atención médica querrán las versiones más baratas con el mayor impacto financiero, que no necesariamente tendrán los mejores resultados para los pacientes. Y si una empresa de atención médica logra afinar un chatbot con medicina de última generación, entonces cualquier empresa puede hacer lo mismo con la homeopatía o las velas perfumadas, o las tonterías contra las vacunas. Esos chatbots arrojarán información errónea peligrosa, tanto con elocuencia como con empatía.

"Ese es el peor de los casos", dice Greg Corrado, jefe de Salud AI en Google. "Esto no es algo que la gente de Silicon Valley pueda hacer de forma aislada". Eso significa desarrollar estos sistemas junto con expertos en atención médica, no solo ejecutivos de atención médica, para garantizar que sean privados y seguros y que realmente ayuden a las personas.

No será fácil, pero puede ser necesario. Lamentablemente, nuestro sistema de atención médica no está diseñado para proporcionar a todos cuidadores humanos decentes. Y hasta que eso cambie, sería bueno tener robots que pudieran ayudarnos a mantenernos saludables. Si pueden simular que se preocupan por nosotros al mismo tiempo, tal vez incluso mejor que los médicos humanos, bueno, ese sería un buen mensaje para recibir.

Adam Rogers es corresponsal sénior de Insider.

A través de nuestro periodismo de discurso, Insider busca explorar e iluminar los temas e ideas más fascinantes del día. Nuestros escritores brindan perspectivas que invitan a la reflexión, informadas por análisis, informes y experiencia. Lea más historias de discursos aquí.

Leer siguiente