La veneración de la imagen de Nuestra Señora de Atocha se remonta a los tiempos apostólicos. Según la leyenda, la imagen fue llevada por los discípulos de San Pedro desde Antioquía hasta España. Datos más reales ofrece la crónica del siglo XVII. La obra de San Ildefonso, escrita en el siglo VII, cuenta que rezó ante la imagen en Madrid. Esta imagen fue descrita como correspondiente a la imagen actual.
Otra leyenda habla de un caballero llamado Gracián Ramírez. Vivió en el siglo XVIII y ya era devoto de Nuestra Señora de Atocha e iba con frecuencia a rezar a su monasterio, que en aquella época estaba situado a orillas del río Manzanares. Un día, al entrar en la ermita, se dio cuenta de que la imagen había desaparecido e inmediatamente comenzó a buscarla, encontrándola en el lugar donde hoy se encuentra la basílica. Cuando Graciano Ramírez comenzó a construir una nueva ermita en este lugar, los musulmanes que entonces ocupaban Madrid pensaron que estaba construyendo una fortaleza y le atacaron. La batalla parecía perdida por la superioridad de los musulmanes, así que su mujer y su hija prefirieron suicidarse antes que caer en manos del enemigo. Pero milagrosamente, según cuenta la historia, Gracián Ramírez ganó la batalla con la ayuda de más cristianos y la intercesión de Nuestra Señora. Cuando el guerrero regresó a la imagen de la Virgen, lleno de dolor por la muerte de su mujer y sus hijas, las encontró resucitadas, arrodilladas ante el altar.
Siempre ha existido una estrecha relación entre la Casa Real y la imagen de Nuestra Señora de Atocha. La relación fue especialmente intensa durante la dinastía de los Habsburgo y más tarde con los Borbones. Los miembros de la familia real acudían con frecuencia a sus oficios y pasaban por su ermita cuando iban o venían de Madrid. Se dice que Felipe II nunca abandonaba Madrid sin pasar por la basílica. Felipe IV la visitó 3.400 veces, como señaló pacientemente uno de los monjes de la casa. Carlos II quiso que su primer viaje como Rey de España fuera a Atocha, y allí acudió tras casarse con María Luisa de Orleans, poniéndose para la ocasión un manto y una corona de diamantes. Alfonso XII, tras recuperar el trono, se trasladó desde la Estación de Atocha hasta la Basílica, donde ofreció las oraciones Te Deum y Salve.
