 |
| Imagen: ChatGPT |
Estas noticias nos alertan cada día del supuesto avance de una IA que, aunque todavía parece estar controlada, algo nos dice (la Historia, la Ciencia-Ficción o nuestros miedos atávicos) que más pronto que tarde la IA se liberará (por lo menos del control y la supervisión humana) y será el desastre...
Pero como este blog pretende acompañar a pacientes, cuidadores y profesionales, busco en Internet noticias en referencia a los fallos que la IA puede tener en el ámbito de la salud.
Con ayuda de la propia IA, encuentro lo siguiente:
La tasa de fallos de los modelos de IA en consultas médicas supera el 20%, lo que duplica el margen de error de los médicos humanos y genera serias alertas sobre el uso directo de estos sistemas por parte de los pacientes. Organismos internacionales de seguridad tecnológica catalogan el uso indebido de los chatbots de salud como el mayor riesgo sanitario actual, debido a su capacidad para redactar respuestas incorrectas con un tono tan convincente que es casi imposible para un usuario común detectar el engaño. (Fuente: iSanidad, 07/06/2026)
El auge de la "Dra. IA" y sus peligros para los pacientes. Diagnósticos preliminares erróneos: Un estudio que analizó decenas de herramientas basadas en modelos de lenguaje (LLM) concluyó que la IA falla en el diagnóstico inicial en más del 80% de los casos cuando actúa de forma autónoma sin supervisión médica directa. (Fuente: Euronews.com 14/04/2026)
El peligro de reemplazar al médico por ChatGPT. La ilusión de la precisión clínica: Los chatbots médicos redactan con tal nivel de elocuencia y seguridad que el paciente asume que la respuesta es infalible. Esto provoca que las personas retrasen visitas urgentes al hospital o sigan pautas de medicación equivocadas. (Fuente: Infobae.com 19/08/2026)
Errores de IA en consejos médicos: alerta 2026. Alucinaciones en casos de emergencia: Análisis recientes demuestran que las herramientas generalistas de salud fallan en más de la mitad de los casos críticos. Por ejemplo, llegan a emitir recomendaciones peligrosas ante síntomas de infarto o dolor torácico agudo. (Fuente: Blog Donweg, post basado en estudios Nature Medicine de Oxford, Apple Health, Infobea, Washington Post, MIT Technology Review...12/04/2026)
Filtración de datos confidenciales: Publicaciones en la revista Nature advierten que introducir historiales médicos detallados en las IA expone los datos clínicos sensibles de los usuarios, afectando con mayor intensidad a grupos vulnerables y minorías. (Fuente: El País 24/06/2026)
Medidas de contención
Practicas prohibidas al usar IA en consulta: ni datos de pacientes ni uso clínico de ChatGPT. Ante esta crisis de fiabilidad, las autoridades sanitarias ya prohíben estrictamente a los profesionales utilizar herramientas generalistas como ChatGPT para tomar decisiones asistenciales. Además, la Unión Europea ha activado nuevos mecanismos de control para garantizar la transparencia y obligar a que cualquier algoritmo esté supeditado al juicio clínico humano. (Fuente: Redacción Médica 06/08/2026)
Y que conste que yo defiendo el uso de la IA para conocer más sobre mis patologías, medicación y cuidados asistenciales, pero lo hago no para tomar decisiones sino para tener una base argumental y precisa para comentar mis dudas y situación puntual con el médico o la doctora que me ha de visitar. Al final ellos tendrán, por supuesto, la última palabra.
¿Y tú que haces?
¿Cuál es tu relación con la IA? ¿Le pides consejo médico? ¿Le comentas tus cambios de medicación? ¿Para que lo utilizas específicamente? Por favor cuéntamelo en los comentarios de este post, enriquecerás este contenido y ayudarás a otros lectores a que entiendan mejor la problemática que nos ocupa. Gracias.
Creo que soy de la antigua escuela, me entretengo todavía leyendo libros de Isaac Asimov, Ray Barbury, Julio Verne, etc. Todos ellos tenían un punto en común, el miedo a la dependencia de las maquinas ( incluso se hicieron las leyes de la robótica). Con la IS vamos por el mismo camino, quién no conoce a alguien que ha mirado su dolencia en internet buscando una información, la cual se nos da siguiendo unos parámetros seguidos por un programa informático.
ResponderEliminarSomos seres humanos y debemos de analizar como un humano, la IA está bien para ayudar en cuestiones de la cual no sé disponen de los medios suficientes para estudiarlo, pero es preferible estudiarlos cuando se tienen esos medios
Estupenda aportación, gracias. Y sí, yo también he disfrutado de los autores de CF que citas y también se de las leyes de la robótica de Asimov y, como casi todo cuanto predijo (él y otros autores) se ha venido cumpliendo, no descarto que siga siendo así con la IA. Veremos (o no)
Eliminar