ChatGPT no proveerá atención médica pero le puede ahorrar mucho tiempo a los médicos

Por Katie Jennings y Rashi Shrivastava

Todas las semanas, Eli Gelfand, jefe de cardiología general en el Centro Médico Beth Israel Deaconess en Boston (EE.UU.), pierde mucho tiempo en cartas que no quiere escribir, todas dirigidas a aseguradoras que cuestionan sus recomendaciones.

Un nuevo fármaco para un paciente con insuficiencia cardíaca. Una tomografía computarizada para un paciente con dolor de pecho. Un nuevo fármaco para un paciente con síndrome del corazón rígido. “Estamos hablando de cartas para cosas que salvan vidas”, dice Gelfand, quien también es profesor asistente en la Escuela de Medicina de Harvard.

Por eso, cuando ChatGPT apareció en los titulares destacado por su capacidad de generar textos mediante Inteligencia Artificial (IA) generalmente coherentes, Gelfand vio en el chatbot la oportunidad de ahorrar algo de tiempo.

Le dio al chabot información básica sobre un diagnóstico y los medicamentos que había recetado (omitiendo el nombre del paciente) y le pidió que escribiera una carta de apelación para una aseguradora, con referencias a artículos científicos.

ChatGPT le dio una carta viable, la primera de muchas. Y aunque las referencias a veces pueden estar incorrectas, Gelfand le dijo a FORBES que las cartas requieren una “edición mínima”. De manera crucial, redujo el tiempo que dedica a escribir cartas a un minuto en promedio, y funcionan.

Gelfand ha utilizado ChatGPT para unas 30 cartas de apelación, la mayoría aprobadas por las aseguradoras, dice.

Pero no se hace ilusiones de que ChatGPT o la IA que lo impulsa salven el sistema de salud de Estados Unidos, en el corto plazo.

LEA TAMBIÉN: Bill Gates a Forbes: ‘La inteligencia artificial es el tema más candente de 2023’

“Básicamente está haciendo mi vida un poco más fácil y espero que los pacientes obtengan los medicamentos que necesitan a un ritmo mayor”, dice Gelfand. “Esta es una solución alternativa para un problema que en realidad no debería existir”.

El problema: EE.UU. gasta más dinero en administración de atención médica que cualquier otro país en el mundo.

En 2019, alrededor de una cuarta parte de los US$ 3,8 billones gastados en atención médica se destinaron a cuestiones administrativas como las que lamenta Gelfand.

Se estima que alrededor de US$ 265.000 millones fueron un “desperdicio”: gastos innecesarios por tecnología anticuada que sustenta el sistema de salud de EE.UU. Gelfand puede usar un chatbot para generar electrónicamente una carta de apelación pero tiene que enviarla por fax a la aseguradora.

Eso resume el desafío que enfrentan las empresas que esperan crear herramientas administrativas de IA que ahorren tiempo para un sistema de atención médica estancado en la década de 1960.

LEA TAMBIÉN: Otra cara de la inteligencia artificial: la carrera por armas autónomas entre EE.UU., China y Rusia

La máquina de fax no va a desaparecer pronto, dice Nate Gross, cofundador y director de estrategia de Doximity, una plataforma de redes sociales con sede en San Francisco utilizada por dos millones de médicos y otros profesionales de la salud en EE.UU. Es por eso que la nueva herramienta de flujo de trabajo de Doximity, DocsGPT, un chatbot que ayuda a los médicos a escribir una amplia gama de cartas y certificados, está conectado a su herramienta de envío de faxes en línea.

“Nuestra tesis de diseño es hacer que sea lo más fácil posible para los médicos interactuar con los nuevos estándares digitales, pero también ser compatible con todas las cosas antiguas con las que realmente se ejecuta la atención médica”, dice Gross.

A menudo denominado “LinkedIn para médicos”, Doximity tiene una capitalización de mercado de US$ 6.300 millones y genera la mayor parte de sus ingresos (US$ 344 millones en el año fiscal 2022) de compañías farmacéuticas que buscan publicidad y sistemas de salud que buscan contratar.

Pero también ofrece una gama de herramientas para que los médicos reduzcan su carga administrativa. Las versiones básicas generalmente son gratuitas con ventas adicionales para integraciones empresariales, dice Gross.

DocsGPT se basa en ChatGPT pero está capacitado en datos de atención médica, como cartas anónimas de apelación para seguros.

Los médicos pueden usar la herramienta para redactar cartas, incluidas referencias de pacientes, apelaciones a seguros, notas de agradecimiento para colegas, instrucciones posteriores a la cirugía e incluso certificados de defunción.

El chatbot proporciona una biblioteca de indicaciones seleccionadas basadas en lo que otros médicos han buscado en el pasado y está diseñado para recordarles a los médicos que lo usan que la IA no es un profesional entrenado. Antes de cada respuesta, DocsGPT genera un aviso descargo de responsabilidad que le pide al usuario: “POR FAVOR EDITE CON PRECISIÓN ANTES DE ENVIAR”.

En una llamada para reportar resultados financieros a principios de este mes, se le preguntó al cofundador y director ejecutivo de DocsGPT, Jeff Tangney, cómo planeaba Doximity monetizar el chatbot.

“Voy a hacer una broma aquí”, respondió. “Probablemente pasamos más tiempo preocupándonos por la responsabilidad de ese producto que por su monetización hasta ahora”.

Un futuro de conversaciones Bot-To-Bot

Si bien DocsGPT podría ahorrarles algo de tiempo a los médicos, el intercambio posterior con las compañías de seguros por fax y teléfono significa que a los profesionales aún les puede llevar días verificar los beneficios del seguro de un paciente u obtener una autorización previa para una cirugía.

Actualmente, una persona en el consultorio de un médico o en un hospital debe llamar a un funcionario de una compañía de seguros para obtener manualmente los detalles específicos de los beneficios del seguro de cada paciente.

Eso les toma mucho tiempo tanto a las aseguradoras como a los médicos, y la escasez de trabajadores no está ayudando.

“No se trata solo de que sea lento, es que las cosas no se están haciendo”, dice Ankit Jain, cofundador y director ejecutivo de la startup de IA conversacional Infinitus Systems. “Había (una aseguradora) con la que estábamos hablando que tenía 32 contenedores de faxes atrasados”.

Con Infinitus, que recaudó más de US$ 50 millones desde que lo fundó en 2019, Jain está tratando de construir un futuro en el que, en lugar de que las personas discutan sin cesar los beneficios y las aprobaciones, los bots hablen por ellos.

Jain, ex Googler y cofundador del fondo enfocado en IA del gigante tecnológico, Gradient Ventures, dice que el problema es que cada médico, aseguradora y sistema de salud registra la información en diferentes formatos.

A diferencia de los sufridos empleados de la industria de la salud, la IA puede darle sentido rápidamente a esa información fragmentada. Infinitus ha construido sus propios modelos y no se basa en la tecnología de OpenAI, pero Jain dice que la premisa subyacente es la misma: “Lo que hacen los modelos de lenguaje grande es decir: ‘tíranos todos esos datos’. Y los grandes modelos de lenguaje pueden extraer las conexiones correctas entre frases y conceptos”.

Hasta ahora, la conversación es unilateral: Infinitus usó grandes modelos de lenguaje para crear Eva Lightyear, un robot que ha realizado más de un millón de llamadas a compañías de seguros en nombre de médicos para verificar los beneficios del seguro y los requisitos de autorización previa.

Un día, espera que Eva no llame a un humano al otro lado del teléfono, sino a otro robot, aunque no literalmente.

“No son robots hablando con robots en inglés o intercambiando faxes entre ellos”, dice Jain. “Eso se convierte en una API. El futuro debe ser las autopistas digitales, donde simplemente se envíe información, se juzgue, se adjudique y se obtenga una respuesta instantánea”.

Aunque Jain es optimista sobre la automatización de extremo a extremo, cuando se trata de la adopción de la misma, los chatbots y otros tipos de tecnología impulsada por IA enfrentan un serio obstáculo: los modelos como ChatGPT emiten falsedades como si fueran verdad y tienen que volver a capacitarse constantemente con información actualizada.

“Cuando un médico inventa cosas, eso se llama mentir. Cuando un modelo inventa cosas, usamos esta extraña frase llamada ‘alucinación’”, dice Nigam Shah, científico jefe de datos de Stanford Healthcare.

ChatGPT solo se capacitó con datos disponibles hasta 2021 y no se actualiza periódicamente. El campo de la medicina cambia constantemente, con nuevas pautas, medicamentos y dispositivos que salen al mercado, lo que significa que los datos desactualizados plantean un problema.

Shah dice que no ve la posibilidad de una amplia adopción de la IA generativa en el cuidado de la salud hasta que existan sistemas paraentrenar regularmente a los modelos con nueva información y detectar cuándo las respuestas son incorrectas. “Tenemos que averiguar cómo verificar la veracidad y veracidad del output”, dice.

LEA TAMBIÉN: ChatGPT se convierte en una oportunidad de éxito para las startups

También existe el riesgo de que un médico, sin importar cuán bien intencionado sea, ingrese información de salud privada en ChatGPT.

Si bien la anonimización y el cifrado son dos formas de proteger los datos de los pacientes, estas medidas por sí solas pueden no ser suficientes, dice Linda Malek, socia del bufete de abogados Moses Singer.

“Incluso si uno intenta desidentificar datos almacenados en ChatGPT, las capacidades de la IA pueden volver a identificar la información”, dice.

“ChatGPT también es un objetivo particular para los ciberdelincuentes, porque puede utilizarse para ransomware y diferentes tipos de ciberataques”, agrega.

Dejando a un lado los potenciales peligros, los logros de la IA generativa continúan asombrando a los usuarios. En enero, investigadores descubrieron que ChatGPT podía aprobar el examen de licencia médica de EE.UU. con una “precisión moderada” sin ningún entrenamiento especial. Al menos otros dos programas de IA, Flan-PaLM, de Google, y el bot chino Xiaoyi, también han aprobado los exámenes nacionales de licencia médica.

Morgan Cheatham, vicepresidente de Bessemer Venture Partners y estudiante de medicina en la Universidad de Brown, dice que los grandes modelos de lenguaje de ChatGPT “tienen un valor inherente en las aplicaciones de atención médica” pero que cualquier camino a seguir requerirá un avanzar lentamente.

Por ahora, la esperanza es que la IA generativa pueda ayudar a los médicos a centrar su atención y su tiempo en la parte más importante de su trabajo: sus pacientes.

“Lo que me entusiasmó de convertirme en médico fue la interacción cara a cara en la sala de examen con otro ser humano”, dice David Canes, urólogo de Beth Israel Lahey Health y cofundador de la empresa emergente de educación de pacientes Wellprept. “Lo intrusivo ahora son miles de clics del mouse y entradas del teclado”.

Canes dice que planea usar ChatGPT para “comunicaciones de bajo riesgo” y espera con ansias el día en que pueda pasar menos tiempo lidiando con la interminable burocracia.

“Mis días serían perfectos si solo estuvieran llenos de atención al paciente. Lo amo tanto ahora como siempre”, dice. “Veo estas mejoras y me dan esperanza de que estemos al borde de una nueva era en la que se pueden minimizar los peores aspectos de la medicina”.