El uso de chatbots para obtener asesoramiento médico podría provocar alucinaciones e incluso exponerlo a riesgos de seguridad y privacidad. Esto es lo que está en juego y cómo mantenerse a salvo.
27 de mayo de 2026
•
,
5 min. leer
Para bien o para mal, los chatbots están cambiando la forma en que pensamos, aprendemos y percibimos el mundo que nos rodea. Este tipo de disrupción se manifiesta en muchas áreas de la vida, pero quizás una de las más sensibles y a menudo preocupantes sea el uso cada vez mayor de herramientas de IA generativa (GenAI) para la atención sanitaria. Además de una serie de chatbots de IA disponibles gratuitamente, las principales empresas de tecnología se han trasladado a la IA sanitaria orientada al consumidor con el lanzamiento de servicios como Salud del copiloto, ChatGPT Saludy SaludAI de Amazon Esos modelos ayudan a los usuarios a interpretar sus registros médicos y hacer preguntas sobre sus síntomas, resultados de laboratorio y opciones de tratamiento.
Pero existen riesgos al esperar que una herramienta de inteligencia artificial asuma el papel de su médico. Además, el riesgo no es sólo que los usuarios reciban un asesoramiento equivocado, sino que puedan compartir información personal profundamente sensible con sistemas cuyas protecciones de privacidad, prácticas de intercambio de datos y obligaciones legales pueden diferir de las de un médico u hospital, así como que sus datos puedan quedar expuestos a entidades inesperadas. El uso indebido de los chatbots de IA en general es ahora el principal peligro tecnológico para la salud que existe, según un paciente de EE. UU. organización.
De la teoría a la práctica
La razón por la que los creadores de modelos se están lanzando a este espacio es obvia: los chatbots se han convertido en una forma muy popular de buscar asesoramiento médico. De acuerdo a microsoftla gente habla de su salud y la de sus seres queridos más que de cualquier otro tema en sus dispositivos móviles. Los chatbots están disponibles las 24 horas del día, los 7 días de la semana, con una respuesta para todo, en un tono seguro que ayuda a tranquilizar a los pacientes nerviosos.
En un momento en el que los sistemas nacionales de salud están bajo una presión cada vez mayor, muchas personas probablemente se autodiagnosticarían con la ayuda de la IA antes de decidir si buscar atención médica. El tiempo, el esfuerzo y el costo potencial de ingresar al laberíntico sistema de salud en lugar de realizar la clasificación en casa hacen que esta sea una forma popular de hacer las cosas.
Sin embargo, ya están surgiendo preocupaciones. El primero es de alucinaciones o consejos incorrectos. Una Universidad de Oxford estudiar de febrero publicado en Medicina de la naturaleza encontró:
- Los usuarios a menudo no sabían qué información debían compartir con el LLM
- Los LLM proporcionaron respuestas muy diferentes, incluso si las preguntas que se les plantearon variaron solo ligeramente
- Los modelos a menudo brindaban buenos y malos consejos, pero los usuarios tenían dificultades para distinguir entre los dos.
«A pesar de todo el revuelo, la IA simplemente no está lista para asumir el papel del médico», advirtió la doctora Rebecca Payne, la principal médica del estudio. «Los pacientes deben ser conscientes de que preguntar a un modelo de lenguaje grande sobre sus síntomas puede ser peligroso, dar diagnósticos erróneos y no reconocer cuándo se necesita ayuda urgente».
Descubriendo los riesgos de privacidad
También existen riesgos no relacionados con la salud que deberían animar a las personas a hacer una pausa para pensar. La más obvia es que compartir información médica confidencial con un chatbot disponible públicamente puede significar que los datos se utilicen para entrenar el modelo y, por lo tanto, se regurgiten a otros. Incluso sin querer, los modelos han sido conocidos exponer accidentalmente datos escritos por sus usuarios.
Algunos proveedores pueden usar datos para mejorar sus modelos a menos que los usuarios opten por no participar, mientras que otros hacen promesas más firmes de no utilizar información relacionada con la salud para capacitación. De cualquier manera, todos deberían saber con qué tipo de servicio están tratando antes de subir algo sensible. Sus datos de salud no son como una tarjeta de crédito robada que puede congelarse mientras se reemplazan y reemiten los datos. Es suyo de por vida y, una vez compartido con una herramienta de inteligencia artificial, puede convertirse en un registro digital permanente.
Por otro lado, la mayoría de los principales chatbots centrados en la salud prometen no utilizar estos datos con fines de formación. Aún así, la capacitación es sólo una parte del panorama de la privacidad y es posible que los servicios no hagan las mismas promesas sobre el intercambio de datos con terceros. Su información médica personal puede estar en manos de un agregador de datos, un tercero que se encuentra entre el proveedor modelo y su proveedor de atención médica. También puede compartirse con anunciantes, ya sea directamente o a través de uno de estos agregadores, aunque normalmente será anónimo antes de su uso. Aun así, la gente debe ser cautelosa: los datos de salud son inusualmente sensibles y el anonimato no siempre elimina todos los riesgos.
Cuando el riesgo de incumplimiento se multiplica
El problema con los datos confidenciales que atraviesan tantas organizaciones es que existe una mayor posibilidad de que queden expuestos a ladrones y estafadores digitales. Los legisladores estadounidenses afirman haber identificado pérdidas por valor de 21.000 millones de dólares vinculadas a un puñado de filtraciones en empresas de corretaje de datos. Los datos de salud son altamente monetizables por los estafadores por varias razones:
- Conserva su valor durante largos períodos de tiempo, ya que normalmente no se puede reemplazar ni volver a emitir.
- Podría incluir información del seguro con la que presentar reclamaciones falsas o recibir servicios médicos en su nombre.
- Podría usarse para chantajearte.
Cuantas más empresas posean estos datos, más oportunidades habrá para que los piratas informáticos los comprometan y los roben. El desafío es que la mayoría de las herramientas de inteligencia artificial para el cuidado de la salud no están reguladas por HIPAA, ya que están clasificadas como servicios de consumo y no de nivel empresarial. Eso significa que es posible que los proveedores no estén sujetos al tipo de normas estrictas de protección de datos que normalmente se esperaría.
Consejos para pacientes
Entonces, ¿cómo puede minimizar su exposición a los riesgos de la GenAI para la atención sanitaria? Si le preocupa una afección médica, evite los robots de uso general y busque los diseñados especialmente para responder preguntas relacionadas con la salud. Revise si el servicio explica cómo maneja sus datos, si utiliza sus indicaciones para capacitación, si comparte información con terceros y si está cubierto por HIPAA o un régimen de privacidad equivalente en su país.
No confíe ciegamente en el resultado a menos que haya enlaces de citas para verificarlo. E incluso entonces, no tome sus respuestas como una promesa: consulte siempre con un profesional médico y/o un sitio web oficial (p. ej., Servicio Nacional de Salud, MedlinePlus).
Para proteger su privacidad, considere lo siguiente:
- Nunca comparta ni cargue documentos médicos, resultados de laboratorio u otros documentos confidenciales con una herramienta de inteligencia artificial a menos que comprenda cómo la herramienta maneja esos datos.
- Evite ingresar nombres, direcciones, detalles de seguros, números de pacientes u otros identificadores.
- Asegúrese de que las funciones de capacitación e historial de chat estén desactivadas.
- Comparta solo la información mínima necesaria para la tarea.
- Suponga que todo lo que escriba podría conservarse o exponerse y ajuste sus indicaciones en consecuencia.
En última instancia, los chatbots de IA pueden ser útiles para generar preguntas sobre una afección específica para hacerle a su médico o para explicar un término médico con el que no está familiarizado. Pero existe una gran diferencia entre utilizar la IA para prepararse para la atención y utilizarla como sustituto de la misma. No trate una respuesta segura como un diagnóstico y no ignore los síntomas urgentes porque una máquina sonó tranquilizadora.
Acerca del autor
