La chiesa, a tutti nota per le sue caratteristiche cupole di colore rosso, appoggiata con un fianco ad un corpo quadrato anteriore (forse una moschea) e realizzata a croce divisa in campate quadrate su ciascuna delle quali poggia una semisfera. Il presbiterio, terminante in nicchia, è sormontato da una cupola, come quella dei due corpi quadrangolari che la fiancheggiano e di cui quello di sinistra si eleva a campanile. Il chiostro, abbellito da un lussureggiante giardino, è la parte meglio conservata del convento antico; spiccano per bellezza e leggerezza le colonnine binate con capitelli a foglie d’acanto che reggono archi ogivali a doppia ghiera. Vi si trova inoltre una cisterna araba.
F. Elliot – in Diary of an Idle Woman in Sicily (1881) – descrive San Giovanni degli Eremiti come “una chiesa normanna vicino al palazzo reale e alla Porta di Castro… riparata in un incavo, è del tutto orientale, e con le sue cinque cupole starebbe benissimo a Baghdad o a Damasco. Accanto, il campanile gotico a quattro ordini di logge è sormontato da un’altra cupola, singolare adattamento di costruzione araba ad un costume cristiano. La pianta della chiesa è a croce latina con tre absidi, la navata è divisa in tre campate ognuna delle quali è sormontata da una cupola con pennacchi, necessari perché la torre su cui poggiano è quadrata, le pareti sono in pietra intagliata come spesso se ne vedono nei monumenti arabi senza decorazione alcuna e l’insieme è illuminato da finestre ad arco acuto”.
Oggi l’edificio presenta, invece, una nuda cortina muraria fatta con conci di tufo squadrati; l’interno ha tre absidi semicircolari ed è suddiviso in cinque campate quadrate coperte da cupolette che si raccordano alle pareti tramite nicchie.