Anticamente l'attuale Chiesa del Carmine porta­va il nome di Chiesa di S. Croce al Mercato, perché si riteneva conservasse un pezzetto della croce e per­chè nella piazzetta anti­stante si svolgeva il merca­to cittadino. Fu edificata nel 536 ad opera di S. Lo­renzo Maiorano, Vescovo di Siponto, dopo la conversio­ne del Governatore del posto, un tale Severo. Se­condo il Lucchini fu "la prima parrocchia-Chiesa", titolo trasferito poi in quel­la di S. Severino. Più tardi a reggere la Chiesa furono i PP. Benedettini, alla cui dipendenza da Papa S. Gregorio VII venne asse­gnata l'allora Chiesetta di S. Maria della Strada (l'at­tuale Cattedrale).
Soppressa la comunità benedetti­na, la Chiesa di S. Croce al Mercato passò sotto la giu­risdizione del clero di S. Severino. Crollata durante il terremoto del 30 luglio 1627, venne subito riedifi­cata, con l'istituzione an­che della Pia Istituzione S. Lucia.
Nel 1635 Mons. Sacchet­ti chiamò come organista della Cattedrale un certo P. Roberto dell'Ordine Carmelitano di Napoli, dandogli alloggio nei vani di proprietà della Chiesa di S. Croce. Dopo di lui giunsero altri religiosi del­lo stesso Ordine, che qui esposero una grande tela, copia della Madonna bru­na del Carmine Maggiore di Napoli.
Con Innocenzo X tutte le piccole comunità venne­ro soppresse, compresa quindi anche quella carme­litana di S. Croce. Nel 1679, con decreto di Mons. De Matta, venne creata una nuova confraternita laica­le sotto il titolo questa di Maria SS.ma del Carmine, che 6 anni dopo (e precisa­mente il 29-11-1685) ottenne il riconoscimento ponti­ficio con un Breve di Inno­cenzo XI.
Il 4-4-1680 la Chie­sa fu riaperta solennemen­te al culto, con una struttu­ra architettonica simile a quella della Basilica Vati­cana.
Nel 1705 da Mons. Giacoli la Chiesa di S. Croce mutò nome in quello attua­le del Carmine. Alcuni anni dopo (nel 1743) venne co­struito il prospetto esterno e nel 1777 Ferdinando IV concesse la regia approva­zione allo Statuto della Confraternita del Carmine.
Nel 1827 la tela della Madonna fu sostituita con la magnifica attuale statua in legno dipinto, opera dello scultore napoletano Gennaro Trilocco. Da Pio IX il 3-3-1874 la Confrater­nita fu promossa ad Arciconfraternita. Nel luglio del1890, ad opera del P. Dioda­to Prato da Ragusa, fu isti­tuito il Terz'Ordine Carme­litano.
Nell'arco di questo se­colo sono stati effettuati importanti lavori nella Chiesa: trono marmoreo della Madonna, le pitture del Borgoni, i 16 medaglio­ni dell'abside, lo sposta­mento del coro, la volta a cassettone in cedro del Libano, opera del compian­to comm. Antonio D'Amico.
Il 25-11-1979, essendo Rettore della Chiesa il can. don Vincenzo Cota e Am­ministrazione il rag. Aldo Irmici, è stato celebrato solennemente il III cente­nario della Dedicazione della Chiesa, con la parte­cipazione del card. Giusep­pe Caprio.