La vocación religiosa le lleva, con 21 años, a ingresar en los Carmelitas de Medina, con el nombre de Fray Juan de Santo Matía. Su vocación es claramente contemplativa y eremítica.
Ya como fraile, se instala en Salamanca, en cuya universidad salmantina realiza los tres cursos preceptivos para bachillerarse en Artes, durante los años 1564-1567.
Se ordena como sacerdote en la primavera de 1567, y se decide a ingresar en la Cartuja, orden eremítica alejada de la inestabilidad de su orden en un momento de reforma del Carmelo.
En medio de esta crisis se produce el decisivo encuentro con Santa Teresa de Jesús, en otoño de 1567 en Medina. La Madre fundadora, que proporciona su propio testimonio en las Fundaciones (3,16-17), le ofrece la alternativa de ayudarla en la reforma.
En agosto de 1568 abandona Salamanca para acompañar a Teresa de Jesús en su fundación femenina de Valladolid, en este viaje se familiariza con el nuevo talante de la reforma. Poco después funda el primer convento masculino de la orden del Carmelo Descalzo, según la Regla primitiva y no mitigada de la Orden del Carmen, el 28 de noviembre de 1568, ceremonia en la que cambia su nombre por el de fray Juan de la cruz.