Salud.- Con cientos de millones de personas recurriendo a los chatbots en busca de consejos , era solo cuestión de tiempo antes de que las empresas tecnológicas comenzaran a ofrecer programas diseñados específicamente para responder preguntas sobre salud .
En enero, OpenAI presentó ChatGPT Health, una nueva versión de su chatbot que, según la compañía, puede analizar los historiales médicos, las aplicaciones de bienestar y los datos de dispositivos portátiles de los usuarios para responder preguntas médicas y de salud. Actualmente, existe una lista de espera para el programa. Anthropic, una empresa de IA rival, ofrece funciones similares para algunos usuarios de su chatbot Claude.
Ambas compañías afirman que sus programas, conocidos como modelos de lenguaje a gran escala, no sustituyen la atención médica profesional y no deben utilizarse para diagnosticar afecciones médicas. En cambio, señalan que los chatbots pueden resumir y explicar resultados de pruebas complejos, ayudar a prepararse para una visita al médico o analizar tendencias de salud importantes ocultas en los historiales médicos y las métricas de las aplicaciones.
Aquí hay algunas cosas que debes tener en cuenta antes de hablar con un chatbot sobre tu salud:
Los chatbots pueden ofrecer información más personalizada que una búsqueda de Google.
Algunos médicos e investigadores que han trabajado con ChatGPT Health y programas similares los consideran una mejora con respecto a la situación actual.
Las plataformas de IA no son perfectas —a veces pueden tener alucinaciones o dar malos consejos— , pero es más probable que la información que producen sea personalizada y específica que la que los pacientes podrían encontrar a través de una búsqueda en Google.
“La alternativa suele ser no hacer nada, o que el paciente improvise”, dijo el Dr. Robert Wachter, experto en tecnología médica de la Universidad de California en San Francisco. “Por eso creo que si se usan estas herramientas de forma responsable, se puede obtener información útil”.
Una de las ventajas de los chatbots más recientes es que responden a las preguntas de los usuarios teniendo en cuenta el contexto de su historial médico, incluyendo recetas, edad y notas del médico.
Aunque no hayas dado acceso a tu información médica a la IA, Wachter y otros recomiendan proporcionar a los chatbots tantos detalles como sea posible para mejorar las respuestas.
Si tienes síntomas preocupantes, evita la IA.
Wachter y otros recalcan que hay situaciones en las que las personas deberían evitar el chatbot y buscar atención médica inmediata. Síntomas como dificultad para respirar, dolor en el pecho o un fuerte dolor de cabeza podrían indicar una emergencia médica.
Incluso en situaciones menos urgentes, los pacientes y los médicos deberían abordar los programas de IA con «un grado de sano escepticismo», afirmó el Dr. Lloyd Minor de la Universidad de Stanford.
“Si se trata de una decisión médica importante, o incluso de una decisión menor sobre la salud, nunca se debe confiar únicamente en lo que se obtiene de un modelo lingüístico extenso”, dijo Minor, decano de la facultad de medicina de Stanford.
Ten en cuenta tu privacidad antes de subir cualquier dato de salud.
Muchos de los beneficios que ofrecen los bots de IA se derivan de que los usuarios compartan información médica personal. Sin embargo, es importante comprender que cualquier información compartida con una empresa de IA no está protegida por la ley federal de privacidad que normalmente regula la información médica sensible.
Conocida comúnmente como HIPAA, esta ley contempla multas e incluso penas de prisión para médicos, hospitales, aseguradoras u otros servicios de salud que divulguen historiales médicos . Sin embargo, la ley no se aplica a las empresas que diseñan chatbots.
«Cuando alguien sube su historial médico a un modelo de lenguaje de gran tamaño, es muy diferente a entregárselo a un médico nuevo», dijo Minor. «Los consumidores deben entender que se trata de estándares de privacidad completamente diferentes».
Tanto OpenAI como Anthropic afirman que la información de salud de los usuarios se mantiene separada de otros tipos de datos y está sujeta a protecciones de privacidad adicionales. Las empresas no utilizan datos de salud para entrenar sus modelos. Los usuarios deben dar su consentimiento para compartir su información y pueden desconectarse en cualquier momento.
Las pruebas demuestran que los chatbots pueden tener fallos.
A pesar del entusiasmo que rodea a la IA, las pruebas independientes de esta tecnología están en sus inicios. Los primeros estudios sugieren que programas como ChatGPT pueden superar con éxito exámenes médicos de alto nivel, pero suelen tener dificultades al interactuar con humanos.
Un estudio reciente realizado por la Universidad de Oxford con 1300 participantes descubrió que las personas que utilizaban chatbots de IA para investigar hipotéticas afecciones de salud no tomaban mejores decisiones que las personas que utilizaban búsquedas en línea o su propio criterio.
Los chatbots de IA, al presentarles escenarios médicos de forma completa y por escrito, identificaron correctamente la afección subyacente el 95% de las veces.
“Ese no era el problema”, dijo el autor principal, Adam Mahdi, del Instituto de Internet de Oxford. “El problema surgió durante la interacción con los participantes reales”.
Mahdi y su equipo detectaron varios problemas de comunicación. Con frecuencia, los usuarios no proporcionaban a los chatbots la información necesaria para identificar correctamente el problema de salud. Por otro lado, los sistemas de IA solían responder con información contradictoria, y a los usuarios les resultaba difícil distinguir entre ambas.
El estudio, realizado en 2024, no utilizó las versiones más recientes de los chatbots, incluidas las nuevas opciones como ChatGPT Health.
Una segunda opinión de IA puede ser útil.
La capacidad de los chatbots para formular preguntas de seguimiento y obtener información clave de los usuarios es un área en la que Wachter considera que hay margen de mejora.
“Creo que ahí es cuando esto se pondrá realmente interesante, cuando las herramientas se vuelvan un poco más parecidas a las de un médico en la forma en que interactúan con los pacientes”, dijo Wachter.
Por ahora, una forma de tener más confianza en la información que recibes es consultar varios chatbots, de manera similar a obtener una segunda opinión de otro médico.
“A veces introduzco información en ChatGPT y en Gemini”, dijo Wachter, refiriéndose a la herramienta de IA de Google. “Y cuando ambas coinciden, me siento un poco más seguro de que esa es la respuesta correcta”.
