Nell'architettura attuale della chiesa di Sant'Andrea, infatti, si notano ancora pochissime tracce della basilica romana, costruita nel XII sec. Le tre navate erano un tempo precedute da un portico (nartece) e sono andate perdute anche le pitture costituenti la Biblia pauperum che una volta decoravano le pareti o più limitatamente l'arco trionfale e l'abside (restano solo tracce che un eventuale restauro potrebbe riportare alla luce). Non si ha traccia della cripta romanica.
La costruzione romanica è presente nel campanile pur essendo stato modificato nella parte terminale con l'aggiunta della piramide. Osservandolo si nota che il materiale impiegato fu recuperato da edifici di età romana (imperiale); le decorazioni di porfido e serpentino ricordano l'opus sectile e le colonne sono stipiti riadattati. Il campanile presenta tre ordini: bifore al primo piano, trifore al secondo, nell'ultimo colonnine a stampella; il tetto in origine era ad un solo spiovente come si evidenzia dalla volta originaria della cella campanaria mentre le cornici sono mensolette di marmo.
Di gusto romanico è anche l'uso di restringere la navata centrale verso l'abside per concentrare lo sguardo dei fedeli verso l'altare maggiore. Purtroppo non si ha più traccia della cripta romanica.