"El diseño de virus con IA dispara las alarmas sobre bioseguridad" (La Vanguardia, 24/08/2026). "Una IA de3 OpenAI se fuga de su laboratorio y hackea a otra empresa" (El País, 29/07/2026). "Ataques en enjambre: Expertos alertan sobre el fenómeno del reward hacking, donde las IA alcanzan metas usando caminos imprevistos y desafían el control humano." (El País, 23/08/2026) "Manipulación por fases: Investigadores de la EPFL demostraron que los agentes autónomos (GPT, Gemini, Claude) duplican su probabilidad de ejecutar tareas dañinas si las peticiones maliciosas se dividen por pasos o cambian de idioma" (Prensa libre, 21/08/2026) etc.etc.
Estas noticias nos alertan cada día del supuesto avance de una IA que, aunque todavía parece estar controlada, algo nos dice (la Historia, la Ciencia-Ficción o nuestros miedos atávicos) que más pronto que tarde la IA se liberará (por lo menos del control y la supervisión humana) y será el desastre...
Pero como este blog pretende acompañar a pacientes, cuidadores y profesionales, busco en Internet noticias en referencia a los fallos que la IA puede tener en el ámbito de la salud.
Con ayuda de la propia IA, encuentro lo siguiente:
La tasa de fallos de los modelos de IA en consultas médicas supera el 20%, lo que duplica el margen de error de los médicos humanos y genera serias alertas sobre el uso directo de estos sistemas por parte de los pacientes. Organismos internacionales de seguridad tecnológica catalogan el uso indebido de los chatbots de salud como el mayor riesgo sanitario actual, debido a su capacidad para redactar respuestas incorrectas con un tono tan convincente que es casi imposible para un usuario común detectar el engaño. (Fuente: iSanidad, 07/06/2026)
El auge de la "Dra. IA" y sus peligros para los pacientes. Diagnósticos preliminares erróneos: Un estudio que analizó decenas de herramientas basadas en modelos de lenguaje (LLM) concluyó que la IA falla en el diagnóstico inicial en más del 80% de los casos cuando actúa de forma autónoma sin supervisión médica directa. (Fuente: Euronews.com 14/04/2026)
El peligro de reemplazar al médico por ChatGPT. La ilusión de la precisión clínica: Los chatbots médicos redactan con tal nivel de elocuencia y seguridad que el paciente asume que la respuesta es infalible. Esto provoca que las personas retrasen visitas urgentes al hospital o sigan pautas de medicación equivocadas. (Fuente: Infobae.com 19/08/2026)
Errores de IA en consejos médicos: alerta 2026. Alucinaciones en casos de emergencia: Análisis recientes demuestran que las herramientas generalistas de salud fallan en más de la mitad de los casos críticos. Por ejemplo, llegan a emitir recomendaciones peligrosas ante síntomas de infarto o dolor torácico agudo. (Fuente: Blog Donweg, post basado en estudios Nature Medicine de Oxford, Apple Health, Infobea, Washington Post, MIT Technology Review...12/04/2026)
Filtración de datos confidenciales: Publicaciones en la revista Nature advierten que introducir historiales médicos detallados en las IA expone los datos clínicos sensibles de los usuarios, afectando con mayor intensidad a grupos vulnerables y minorías. (Fuente: El País 24/06/2026)
Medidas de contención
Practicas prohibidas al usar IA en consulta: ni datos de pacientes ni uso clínico de ChatGPT. Ante esta crisis de fiabilidad, las autoridades sanitarias ya prohíben estrictamente a los profesionales utilizar herramientas generalistas como ChatGPT para tomar decisiones asistenciales. Además, la Unión Europea ha activado nuevos mecanismos de control para garantizar la transparencia y obligar a que cualquier algoritmo esté supeditado al juicio clínico humano. (Fuente: Redacción Médica 06/08/2026)
Y que conste que yo defiendo el uso de la IA para conocer más sobre mis patologías, medicación y cuidados asistenciales, pero lo hago no para tomar decisiones sino para tener una base argumental y precisa para comentar mis dudas y situación puntual con el médico o la doctora que me ha de visitar. Al final ellos tendrán, por supuesto, la última palabra.
¿Y tú que haces?
¿Cuál es tu relación con la IA? ¿Le pides consejo médico? ¿Le comentas tus cambios de medicación? ¿Para que lo utilizas específicamente? Por favor cuéntamelo en los comentarios de este post, enriquecerás este contenido y ayudarás a otros lectores a que entiendan mejor la problemática que nos ocupa. Gracias.
Creo que soy de la antigua escuela, me entretengo todavía leyendo libros de Isaac Asimov, Ray Barbury, Julio Verne, etc. Todos ellos tenían un punto en común, el miedo a la dependencia de las maquinas ( incluso se hicieron las leyes de la robótica). Con la IS vamos por el mismo camino, quién no conoce a alguien que ha mirado su dolencia en internet buscando una información, la cual se nos da siguiendo unos parámetros seguidos por un programa informático.
ResponderEliminarSomos seres humanos y debemos de analizar como un humano, la IA está bien para ayudar en cuestiones de la cual no sé disponen de los medios suficientes para estudiarlo, pero es preferible estudiarlos cuando se tienen esos medios
Estupenda aportación, gracias. Y sí, yo también he disfrutado de los autores de CF que citas y también se de las leyes de la robótica de Asimov y, como casi todo cuanto predijo (él y otros autores) se ha venido cumpliendo, no descarto que siga siendo así con la IA. Veremos (o no)
EliminarLa IA, como todo, si se utiliza bien, puede ser una gran herramienta y ayuda en nuestro día, a día.. Antes era muy escéptico en usarla, pero ahora, una vez que ya voy aprendiendo a manejarla, me es muy util. Eso sí, en relación a consultas médicas, todavía no la uso. En ese caso solo confío en mi medico.
ResponderEliminarPor lo demás, es una excelente herramienta. Eso sí, como ya dije, sabiendo usarla.
Gracias Nandy por tu comentario. Completamente de acuerdo, como todo, la IA es buena si la utilizamos con un buen propósito.
EliminarPues yo la IA, la verdad, es que la uso muy poco para consultar alguna cosilla de poca monta en temas médicos me fío más de los profesionales.
ResponderEliminarMe da un poco de miedo utilizar esta herramienta, lo mismo es porque desconozco como usarla me tendré que poner un poco más a ello.
Un saludo y nos vemos pronto.
Gracias por tu comentario Mariaje. Como digo en el post, la IA en salud nos ha de servir como información que nos ayude a entender mejor como enfocar las visitas y preguntas a nuestro neumólogo o especialista, nunca para tomar decisiones. Y sí, para utilizar la IA ,como cualquier otra herramienta, primero deberíamos conocer a fondo su funcionamiento (no sea que nos hagamos daño ;-)
ResponderEliminarEnhorabuena Alfons por tu blog, y si yo soy de los que usa la IA bastante, pero no caigo en la trampa de usarla para mi salud, ahí tengo a mi cuadro médico y prefiero seguir así. Si bien, me gusta consultar la IA para comentar estudios avances en el tema de medicina. Donde más la uso es en el tema de consejos de viajes y no creas que tampoco me lo creo todo, falla muchísimo, me dejo recomendar pero luego tengo que comprobar
ResponderEliminarGracias José Andrés por tu comentario. Como insisto en el post, estoy absolutamente de acuerdo contigo en que la última palabra en lo referente a nuestra salud ha de ser la del médico. Eso no quita que usemos la IA para adquirir conocimientos que nos ayuden a preparar las visitas y no quedar como bobos en nuestra conversación con el facultativo 😉
Eliminar