Actualmente, el daño a la salud humana causado por la contaminación del aire ha atraído en gran medida la atención pública, en particular, las emisiones de vehículos que incluyen óxidos de nitrógeno así como material particulado. Cómo predecir la calidad del aire, por ejemplo, la concentración de contaminantes, de manera eficiente y precisa es un problema central en la investigación ambiental. Desarrollar un modelo predictivo de calidad del aire robusto se ha convertido en una tarea cada vez más importante, con una significación práctica en la formulación de políticas de control efectivas. Recientemente, el aprendizaje profundo ha progresado significativamente en la predicción de la calidad del aire. En este artículo, damos un paso más y presentamos un esquema limpio de autoencoders enmascarados, denominado modelado de aire enmascarado (MAM), para el aprendizaje auto-supervisado de datos de secuencia, que aborda los desafíos planteados por los datos faltantes. Específicamente, el extremo frontal de nuestra tubería integra un modelo numérico WRF-CAMx, que puede simular el proceso de emisión, difusión, transformación y eliminación de contaminantes basado en la física atmosférica y reacciones químicas. Luego, los resultados predichos de WRF-CAMx se concatenan en una serie temporal y se alimentan a una arquitectura de codificador-decodificador basada en Transformer asimétrico para el preentrenamiento a través de enmascaramiento aleatorio. Finalmente, ajustamos finamente una red de regresión adicional, basada en el codificador preentrenado, para predecir la concentración de ozono (O). Acoplar estos dos diseños nos permite considerar la física atmosférica y las reacciones químicas de los contaminantes mientras heredamos las capacidades de modelado de dependencia a largo plazo del Transformer. Los resultados experimentales indicaron que nuestro enfoque mejora efectivamente las capacidades predictivas del modelo WRF-CAMx y supera las soluciones de red puramente supervisadas. En general, utilizando enfoques avanzados de auto-supervisión, nuestro trabajo proporciona una nueva perspectiva para mejorar aún más la predicción de la calidad del aire, lo que nos permite aumentar la inteligencia y la resiliencia de los sistemas de predicción del aire. Esto se debe a que la predicción precisa de las concentraciones de contaminantes del aire es esencial para detectar eventos de contaminación e implementar estrategias de respuesta efectivas, promoviendo así un desarrollo ambientalmente sostenible.