El monte Cantabria es vigía permanente de Logroño y custodio de sus orígenes. El himno de la ciudad reconoce a este promontorio de tierra y piedra como primer asentamiento logroñés, como lo atestiguan los restos arqueológicos que hay en su cima. El carácter acogedor del cerro se muestra en la cara que se asoma a Logroño, con cinco cuevas que no escapan a la vista.
Sin embargo, su origen y el uso de estas cavidades no están tan claros. Las cuevas que hoy se mantienen presentan dos niveles, conectados entre sí por escaleras. Dentro, hay una sala sostenida por dos columnas, con suelos, techos y puertas trabajados y paredes de piedra de sillería. En ellas, hay multitud de huecos tallados, que recuerdan a columbarios para la cría de palomas. Se sabe que esa finalidad se mantenía en los años 50 del siglo pasado, cuando el Ayuntamiento cobraba por usarlos, como relata Federico Soldevilla, estudioso de la historia local. El último en usar ese espacio como palomar fue Pablo Rodríguez.
Hay constancia de que en el siglo XVI el cantero Antonio de Solano realizó arreglos en unas cuevas en el monte, que estaban destinadas a viviendas. Lo que no está claro es si se trata de las que hoy se mantienen a la vista, pues la montaña tiene en sus entrañas varias cavidades, algunas usadas como viviendas durante mucho tiempo. Una nueva referencia documental habla de la existencia de cuevas en 1581. Y las investigaciones del arqueólogo Sergio Larrauri demuestran que a partir del siglo XVIII estos huecos horadados en el cerro se utilizaban para guardar vino.
A finales del siglo XIX y durante el XX, las oquedades del monte Cantabria siguieron en uso, como viviendas o refugio de ganado. Las cuevas de la cara sur están cuidadosamente labradas, con buenos materiales constructivos, lo que ha llevado a pensar que en su interior pudo haber existido un monasterio o un refugio de familias pudientes del valle, aunque nada lo atestigua.
Otras investigaciones remontan su origen hasta la edad tardo antigua como columbarios, unos elementos muy presentes en el valle del Iregua, como los de Nalda, y que continuarían en uso durante toda la Edad Media.
En la actualidad, el acceso a las cuevas es peligroso, por lo que la visita está desaconsejada. En 2012, el monte Cantabria en su conjunto fue declarado Bien de Interés Cultural.