Del convento rimane ben poco: l'antico chiostro scoperto con al centro il pozzo e circondato da un porticato sotto cui i cappuccini passeggiavano nelle giornate piovose. Per visitarlo occorre varcare il piccolo ingresso situato sulla destra della facciata della chiesa. L'edificio rimaneggiato più volte è stato utilizzato in vari modi (come riformatorio, come distaccamento scolastico, come ufficio igienico ecc.).
Da questo convento e dall'annessa chiesa i frati furono allontanati nel gennaio del 1879 per essere ospitati prima nel Collegio Irlandese, poi nella Chiesa della Carità ed infine dal 1888 nel Santuario di Quintiliolo presso cui edificarono l'attuale piccolo monastero.
Che cosa avvenne del Complesso della S.Croce?
Esso divenne per molto tempo una Casa di Custodia.
Interno della chiesa
Ma veniamo alla chiesa, la quale si presenta con una facciata molto semplice in cui spicca un bel portale situato al termine di una rampa di scale; al di sopra di esso si apre un finestrone rettangolare. Due lesene laterali delimitano i confini del prospetto; semplice è il timpano triangolare (sottolineato anch'esso per i tre lati dalla continuazione pur ridotta delle lesene) con al centro un occhio lucifero posto in asse con la finestra ed il portale sottostanti. Recentemente il tetto è stato smantellato e completamente rifatto; durante il secolo passato invece la chiesa è stata ristrutturata anche perché funge come parrocchia.
Il suo attuale nome è "Madonna della Fiducia".
Sui due pilastri su cui poggia l'arco trionfale compaiono due lapidi in marmo relative: una alla 1° consacrazione della chiesa nel 1611 e l'altra alla 2°consacrazione nel 1837. Poi vi sono delle iscrizioni sepolcrali in latino dell'abate Albrizi, di Andrea Boschi, di alcuni membri della famiglia Fucci ma di esse non diamo ulteriori informazioni in merito alla loro ubicazione in quanto è molto facile trovarle vista la scarsa ampiezza della chiesa.
Più interessante è invece parlare di alcune tele qui presenti: ad esempio della splendida Crocifissione di Francesco di Castello risalente al primo decennio del Seicento. Il dipinto è "affollato" da un'infinità di personaggi stipati ai piedi della Croce (S.Sinforosa e figli, la Vergine, S.Francesco, S.Elena, il card. De Giojosa che aveva consacrato la chiesa nel 1611, il vescovo Fucci che l'aveva costruita). Tra tale folla di figure si fanno a fatica spazio dei particolari paesaggistici tiburtini: la Porta S.Croce, un torrione della Rocca Pia, l'acquedotto Rivellese voluto da Ippolito II d'Este, la chiesa di S.Maria Maggiore ed il complesso della "S.Croce ai Cappuccini". Sotto le braccia distese del Cristo sono posti due angeli in atto di adorazione e di preghiera.
Bellissima è anche un'altra tela forse di Frate Vitale, un cappuccino vissuto sempre nel secolo del Barocco: "L'adorazione dei pastori"; sue tuttavia sono anche "La resurrezione di Cristo" e "L'Immacolata Concezione". Sconosciuto è invece l'autore della "Sacra famiglia e S.Antonio da Padova" anche se è stato accertata la datazione nel XVII sec. A quest'ultimo santo era infatti dedicata una cappella della chiesa mentre a S.Felice Cappuccino era dedicata un'altra.
