La Ermita de la Virgen del Puerto fue construida a principios del siglo XVIII según diseño de Pedro de Ribera, por encargo del entonces alcalde de Madrid, Antonio de Salcedo y Aguirre. El edificio se construyó como réplica del santuario de la Virgen del Puerto de Plasencia. El arquitecto consiguió crear una estructura única que fue uno de los primeros edificios de estilo barroco español.
La Guerra Civil española causó grandes daños en todo el país. Los combates a veces tenían lugar en las calles de la ciudad, y la Ermita se sumó a la ya enorme lista de objetos arquitectónicos que sufrieron durante esta difícil época. Tras el final de la guerra, se tomó la decisión de reconstruir y restaurar la iglesia. Fue reconstruida en 1945, diseñada por Carlos Mendoza.
Hoy, el edificio figura en la lista del patrimonio, donde peregrinos de todo el país acuden a rezar ante la imagen de la Virgen del Puerto.