El uso de modelos de lenguaje de gran escala (LLMs) en salud requiere cautela debido al riesgo de difundir desinformación médica. Este estudio simula un ataque de envenenamiento de datos en The Pile, un conjunto común para entrenar LLMs, demostrando que reemplazar solo el 0,001% de los datos con información médica falsa puede generar modelos dañinos sin afectar su rendimiento en pruebas estándar. Para mitigar estos riesgos, los autores proponen validar las respuestas de LLMs con grafos de conocimiento biomédico, logrando detectar el 91,9% del contenido dañino. Además, se destaca la necesidad urgente de datos verificados y desarrollo transparente en aplicaciones médicas.