Va ser el 1232 quan Ramon de Plegamans va comprar i va regalar a Pedro Nolasco un tros de platja al costat del port, a la partida dels Còdols. El 1235 ja s'havia construït una casa de caritat per als captius alliberats, col·locada sota l'advocació de Santa Eulàlia. Aquest mateix any la nova ordre és aprovada canònicament pel Papa Gregorio IX.
El 1245, el Papa Innocenci IV va concedir a aquest edifici el permís per celebrar els oficis divins i els atorga poder enterrar al convent. El 1249 el bisbe de Barcelona, Pere de Centelles, dóna permís als mercedaris per “aixecar una església dedicada a Santa Maria i tenir cementiri, on poder enterrar els religiosos i domèstics i els confrares de l'ordre…”. Aquesta és la indicació més antiga referida a la construcció d'una església al lloc on ara hi figura la Basílica.
La donació de Raimundo de Plegamans es va quedar petita amb el pas dels anys i els frares van comprar trossos de la parcel·la del costat del carrer Oller. A l'altra banda del carrer de la Mercè la propietat arribava fins al mar, i aquesta part es va dedicar a hort (llavors el mar començava a l'actual Passeig Colom). No es va edificar en aquesta zona fins ben entrat el segle XV, ja que conforme anava avançant la construcció de l'església s'anava desmantellant el convent dels frares per la qual cosa es va fer necessari edificar-ne un de nou al costat mateix del mar. El rei va concedir permís per construir-hi uns arcs que comuniquessin el convent i l'horta amb l'església.
La nova església d'estil gòtic era senzilla. Al principi només comptava amb dues capelles: la de Sant Eloi i la de Santa Marina, situades a la zona de l'església que actualment dóna al carrer Ample. A la capella de Santa Marina va ser enterrada el 19 de setembre de 1290 Santa Maria de Cervelló, el cos del qual roman incorrupte a dia d'avui i és venerat per multitud de fidels. Cada 19 de setembre és exposat per a tal fi. El 1380 el rei Pere IV va oferir un sarcòfag de plata i un altre de fusta policromada amb motiu del trasllat de les seves restes des de la seva tomba a terra al sarcòfag ofert pel rei. La imatge d'aquest sarcòfag és la més antiga que tenim de la santa i hi apareix el retrat del rei que, agenollat, venera les seves restes incorruptes. Actualment es conserva al Museu Diocesà de Barcelona.
Tornant a l'església, des dels seus orígens es dedicà a Santa Maria. El poble va començar a poc a poc a anomenar-la Mare de Déu de la Mercè, per la tasca de “mercè” que feien els mercedaris. En aquella època amb el nom de mercè s'anomenava la redempció dels captius: fer mercè equival a alliberar de l'esclavitud; per tant l'església de l'hospital dels frares era coneguda com l'església de la mercè, i d'aquí es va passar a anomenar l'església de la Mare de Déu de la Mercè.
El 1335 es van construir dues capelles més, semblants a les dues existents, ia finals del segle XIV es va acabar la construcció de la torre. A meitat del segle XV es van construir les capelles de Sant Hipòlit i Santa Úrsula, ja situades al costat del mar de l'església. L'església d'aquell moment feia 35 per 22 metres. La coberta era de volta ogival ia les claus estan llaurats els misteris de la nostra Senyora i les armes dels benefactors. A la façana hi havia “dues grans portes i el seu frontispici és de bella llaurada obra mosaica, i sobre la qual d'aquestes portes està col·locada una imatge molt bonica, alta i proporcionada de Maria Santíssima de la Mercè”. La façana era sòbria, amb rosetó auster i algunes motllures ornamentals. Davant la façana, a l'angle amb el carrer Ample els frares van emplaçar a mitjans del s. XV el seu petit cementiri que va subsistir fins a principis del s. XIX. La imatge de la Mare de Déu que presidia el timpà fins al s. XVIII va ser trobada en unes excavacions el 1942; avui està situada a la capella del Descens.
Va ser el 1361 quan va començar la construcció del retaule d'aquesta primera església, a càrrec de l'arquitecte Bernat Roca. L'artista es comprometia a posar al centre una imatge de la Mare de Déu amb dues llanternes. La imatge anterior a l'actual, que alguns identifiquen com la de la mà a la cara es conserva al Museu Diocesà de Barcelona. La imatge actual fa 1,40 m (set pams de l'època) i s'atribueix a Pere Moragues la seva elaboració en ser l'escultor que col·laborava habitualment amb l'arquitecte Roca. L'estil de la imatge coincideix amb l'habitual d'aquest escultor.
La imatge de la Mare de Déu és policromada i el seu rostre, de gran sensibilitat, té faccions perfilades. Porta els cabells recollits al clatell i el cap descobert, segurament per col·locar-li a sobre una corona metàl·lica. El mantell es tanca sobre el pit amb un colofó de contorn quadrat i té el Nen Jesús assegut sobre els seus genolls. La majoria d'experts consideren que el Nen és una mica posterior a la Verge, encara que els plecs senzills i la manera de tractar les vestidures, semblen tan gòtics com els de la Verge.
El retaule de l'altar major també comptava amb imatges de Sant Joan Evangelista, Sant Joan Baptista, Sant Ramon Nonat i Sant Pere Armengol. El 1503 el pintor Antoni Marquès va decorar el retaule.
El 1667, per voluntat del bisbe de Barcelona, el mercedari Fr. Alonso Sotomayor, es va construir el cambril de la Verge pel que va haver d'enderrocar-se l'antic retaule gòtic i el carreu del cor. En el seu lloc es va construir un retaule barroc al centre del qual es va obrir una gran finestra amb la càmera angelical, a la qual es podia ascendir per escala des de la sagristia per venerar i admirar de prop la imatge de la Verge. Alguns anys després es va construir una altra escala per facilitar el besaman els dies d'aglomeració. Després de enderrocar altres dependències es va construir, al costat del cambril de la Verge, un oratori amb una esvelta cúpula rematada per llanterna per on rebia la llum natural l'estada.
Deixant a part l'església, en relació al convent va ser el 1605 quan el P. Antonio Simoni va decidir construir-ne un de nou les obres del qual van finalitzar el 1636, sent Fr. Dalmau Serra Mestre General de l'Ordre. Es va decorar el pont que comunicava la sagristia amb l'església i es va fer el pont que comunicava el convent amb el cor. El claustre del convent va ser obra de Jaume Granyer i té 26,40 m de costat, amb columnes de marbre fosc.
Tornant de nou a l'església, al segle XVIII els frares es van adonar que se'ls havia quedat petita. Al Capítol General del 1764 es va aprovar la construcció d'una església nova. La seva primera pedra va ser col·locada el 25 d'abril del 1765 i va ser director d'obres l'arquitecte Josep Mas. El refectori del convent va ser utilitzat com a església interina mentre duraven les obres que es van prolongar per espai de 10 anys, concloent el 9 de setembre de 1775.
El nou temple es va edificar al mateix lloc que l'anterior i amb la mateixa disposició, encara que es va eixamplar per la part del carrer Ample i es va allargar pel costat del presbiteri. Actualment la planta és de 45,70 per 20,36m.
Amb motiu de l'enderrocament de l'església gòtica, a l'octubre del 1767, es van remoure els fonaments a la recerca del sepulcre de sant Pere Nolasc però no es va trobar. Posteriorment, el 1782 es van fer altres excavacions a la Baixada de la Canonja, on es van descobrir unes restes però sense cap identificació.
Aquesta nova església és d'estil barroc de tendència italiana. Vicenç Marro va dissenyar el nou altar que constava de dues estàtues col·locades a banda i banda de Sant Pere Nolasc i Santa Maria de Cervelló; al centre la Verge envoltada d'àngels i amb dos captius als peus; a dalt hi havia l'escut de la Mercè sostingut per dos àngels, obra de l'escultor Pere Serra, i sota una bella estàtua de Santa Eulàlia. Un baldaquí de marbre per a l'exposició del Santíssim completava aquest altar. Tot va ser inaugurat el 2 d'agost del 1794.
Amb tot això arribem al segle XIX, un segle molt mogut des dels seus inicis amb la Guerra del Francès (1808-1814), i nefast per a l'Ordre de la Mercè a Espanya. El convent va romandre ocupat: destinat a presó, caserna de soldats francesos i italians i dipòsit d'intendència.
Al gener de 1814 es va tancar l'església i van desaparèixer les joies que havien estat donades a la Verge, així com el tron de plata que la ciutat va regalar a la Patrona. La imatge de la Verge i el cos incorrupte de Santa Maria de Cervelló van sortir de l'església i es van guardar a la catedral per a més seguretat, retornant a l'església de nou el 1817. Aquest mateix any es va fer una processó a la catedral amb la imatge per motiu de la sequera, i una altra el 1821 amb motiu del tifus.
El 1822, durant el Trienni Liberal (1820-1823), la comunitat va ser suprimida i el convent tancat de nou. De tota manera, l'església va romandre oberta com a parròquia. L'Ajuntament va enderrocar els dos ponts que unien el convent amb l'església, sent reconstruïts el 1824, quan els frares van retornar al seu convent.
El 1835, per un Reial Decret de l'11 d'octubre, les ordres religioses van ser suprimides a Espanya, de manera que els mercedaris van deixar d'existir en aquest atribolat i convuls país fins al 1878, any del seu retorn. Ja sense mercedaris, el 1869 la parròquia de Sant Miquel va ser traslladada a l'església de la Mercè, de manera que l'església parroquial va ser denominada: “Parròquia de Sant Miquel i de la Mare de Déu de la Mercè”. La porta renaixentista del s. XVI va ser desmuntada i reconstruïda entre 1871 i 1872 al carrer Ample, donant accés a la basílica pel lateral.
El convent va tenir diferents usos: oficina d'impostos, caserna d'un batalló de la Milícia Nacional, seu d'un regiment d'infanteria, casino militar… Finalment, el 29 d'agost de 1845 el nou Capità General, Manuel Bretón, va convertir l'edifici a Capitania General de Catalunya. L'edifici va ser inaugurat com a tal el 10 d'octubre del 1846.
Tornant novament a l'església, l'any 1883 es va construir la cúpula sobre el creuer del temple, obra de Joan Martorell. També el 1883 va morir el bisbe de Barcelona José Urquinaona i Bidot i la seva tomba va ser instal·lada al presbiteri de la Mercè, en un sarcòfag de marbre sobre dues columnes al voltant de la porta de l'escala del cambril. A sobre es va col·locar, el 1885, l'escultura del bisbe, d'Agapito Vallmitjana.
Amb ocasió de l'Exposició Mundial de Barcelona del 1888, es va acabar la cúpula i es va coronar amb una majestuosa imatge en bronze de la Mare de Déu estenent el seu ceptre sobre la ciutat, obra de Maximí Solà. Aquest mateix any la imatge de la Mare de Déu va ser coronada canònicament a la catedral de Barcelona pel bisbe Jaume Català. A la sala contigua al cambril de la Verge es va instal·lar un relleu de marbre que representa el “Descens de la Verge davant Sant Pere Nolasc”, obra de Josep Llimona, relleu que va donar nom a la capella fins ara.
Amb motiu del 700 aniversari de la fundació de l'Ordre de la Mercè, la basílica va ser constituïa Basílica menor el 1918, ia la Mare de Déu se li va regalar el ceptre de l'Ajuntament com a Patrona de la Ciutat.
I, amb aquests vaivens tan característics de la nostra història, arribem al 1936. Al juliol va tenir lloc l'alçament que va donar origen a la guerra civil. Aquest mateix mes la basílica va ser incendiada. Encara que els bombers van acudir, només es van ocupar que el foc no arribés als edificis confrontants. Gràcies a la intervenció d'alguns valents feligresos, la imatge de la Mare de Déu i el cos de Santa Maria de Cervelló es van salvar i han pogut arribar íntegres fins als nostres dies. La imatge de bronze que coronava la cúpula va ser fosa per a ús militar. Tot el que va passar a l'església de la Mercè ho va descriure, punt per punt, mossèn José Sanabre, arxiver de la diòcesi de Barcelona: “La tarda del 19 de juliol la xusma frenètica va envair l'edifici de Capitania General i, tot seguit, va dirigir a l'església de la Mercè exigint-ne la destrucció. No va ser fins al dia següent que, acompanyats de la força pública, van poder penetrar al temple després de disparar nombroses bales de fusell contra la façana. Tot seguit van calar foc a l'interior de l'església de manera que es van cremar les pintures de la volta major, es van fumar els frescos de la cúpula. Les tribunes de fusta, l'orgue i totes les imatges dels altars laterals van quedar destruïdes. Els bombers van vetllar perquè el foc només cremés l'església i no passés als habitatges propers. El foc va ser tornat a avivar en diverses ocasions els dies posteriors”.
La imatge de talla de la Mare de Déu va ser llançada des del cambril sobre el Sagrari de l'altar major i, dies després, altres revolucionaris la van tombar a terra davant de l'altar.
El pare Luis Pelegrí Nicolás, beneficiat de l'església i martiritzat per aquesta raó el 29 de març del 1937, es va proposar rescatar la imatge gòtica. Després d'assabentar-se de com havia quedat la imatge va demanar ajuda a una família de la parròquia ben relacionada amb el Conseller de Governació de la Generalitat de Catalunya, el senyor José María España Sirat. A les quatre de la tarda del 27 de juliol van sortir de la Conselleria de Governació tres agents de la confiança del Conseller, juntament amb dos carrabiners, dos guàrdies d'assalt i dos guàrdies civils. Se'ls va unir la senyoreta Teresa Coll, que havia gestionat l'operació amb el conseller. El grup, en una camioneta, es va desplaçar a la Mercè amb el pretext de recuperar la caixa forta amb les joies de la Verge i que els assaltants no havien localitzat perquè era en un mur del cambril. Buidada la caixa van baixar al presbiteri i, en passar per davant de la imatge caiguda davant de l'altar, la Srta. Coll va suggerir que també podrien endur-se aquell objecte d'art.
Els components del grup es van quedar sorpresos davant la insòlita proposta però un dels agents que havia estat instruït pel Conseller i el serraller que va obrir la caixa forta van recolzar la idea i, per fi, la imatge que va ser dipositada a la furgoneta i tapada amb un llençol que, intencionadament, tenia la Srta. Coll. Van anar llavors a Capitania on havien de recollir una altra caixa de cabals que havia estat a la rectoria. Un cop al pati central, fora de la curiositat pública van baixar de la camioneta la imatge de la Verge i la van amagar dins d'una cambra sota la gran escala on hi havia els utensilis de neteja i on també s'havien dipositat les restes mortals de Santa Maria de Cervelló.
El conserge de Capitania va cuidar els sagrats objectes al llarg de dos mesos. El 28 de setembre del 1936 el Director del Servei de Museus de la Generalitat va ordenar el trasllat de la imatge i del sarcòfag de Santa Maria de Cervelló al Museu del Palau Nacional de Montjuïc on van restaurar les dues peces. Després del trasllat, el cos de Santa Maria de Cervelló va quedar abandonat a Capitania. Ho va recollir l'arquitecte Josep Francesc Ràfols Fontanals (1889-1965), aleshores incorporat al Servei de Guardamobles de la Generalitat i el va tenir amagat a casa seva fins al 1939 i fins i tot va servir com a altar i es va celebrar missa damunt del cos de la santa, clandestinament, diverses vegades. El Conseller Espanya va haver d'exiliar-se el 23 d'octubre del 1936 ja que la seva vida corria perill per haver protegit religiosos i objectes de culte.
L'església de la Mercè va quedar abandonada, presentant un aspecte desolador, totalment destruïda la sala del Descendiment, al costat del cambril, on van cremar els quadres del somni de Sant Josep i la plaga de la llagosta. Els arcàngels de la porta de Sant Miquel van ser igualment destrossats així com les imatges de Sant Joaquim i Santa Anna de Ramon Amadeu, Sant Hipòlit i Sant Antoni de l'altar de Sant Josep Oriol, els arcàngels de Salvador Gurri de la capella del Santíssim i, a l'altar de Santa Maria de Cervelló, les imatges de Sant Antoni de Pere Serra, Santa Isabel d'Enric Clarassó i Sant Pere Nolasc d'Amadeu.
En acabar la guerra, entre el 1940 i el 1976, la basílica va experimentar un ràpid procés de restauració. Tot just acabar la guerra els Capitans Generals de l'Exèrcit (Álvarez Arenas, Orgaz, Kindelán,…) van posar a disposició de la parròquia el batalló de l'arma d'Enginyers. Les successives obres de reconstrucció van ser sufragades en gran mesura per entitats privades. Entre 1939 i 1947 es va refer el paviment de la nau, els altars laterals, les sagristies i la capella del Santíssim. Entre 1948 i 1955, es va treballar al cambril ia la sala del Descendiment. El 1959 es va col·locar la nova imatge de la Mare de Déu al capdamunt de la cúpula, ja que l'anterior va ser enderrocada i fosa a l'inici de la guerra civil. És obra dels germans Miguel (1879 a 1959) i Luciano (1880-1951) Oslé Sáenz de Medrano, de bronze i feta en una fosa de Valls.
Francisco Folguera va dibuixar les portes de la sagristia i del cambril. A les petxines de la cúpula i als arcs del presbiteri hi ha pintures al fresc de José Obiols Palau (1894-1967). Pallàs va dirigir la restauració de la porta de Sant Miquel i Luis Bonet va fer l'escala del cambril el 1972, el mateix any en què Pablo Macià Pons va fer les pintures decoratives de l'intradós de la volta de la nau. Oriol Sunyer Gaspar (1923-1990) va fer el nou tron de plata de la Verge.
Tot i que es va respectar l'estil barroc original de la basílica, algunes coses es van haver de fer noves: les pintures interiors, les motllures,… La gairebé totalitat d'escultures de les capelles laterals van ser elaborades per l'escultor barceloní Claudi Rius. L'altar major va ser projectat el 1959 per l'arquitecte Francesc Folguera, sent el presbiteri folrat de marbres de diferents colors. Una nova imatge en bronze, més gran que l'anterior i unes 5 tones, va ser col·locada sobre la cúpula de la basílica el 1959.
El 1963 se celebra el LXXV aniversari de la coronació canònica de la Verge i es va estrenar el nou tron de plata. El 26 de juliol de 1964 el bisbe de Barcelona doctor Gregorio Modrego Casáus va establir la Germandat de la Verge de la Mercè, i el curs de mateix any es van treure les vestidures de la imatge, per poder ser contemplada tal com la va esculpir al segle XIV Pedro Moragas. El 22 de febrer del 1976 van visitar la Basílica els Reis d'Espanya.
A la plaça, el febrer del 1983, es va instal·lar la font de Neptú inaugurada el 24 d'abril del 1826 al moll de Pescadors del port. És obra d'Adrián Ferran Vallés (1774-1840). La part escultòrica de la font és de Celedonio Guixà.
El 1992 va quedar restaurat l'antic palau Girona, davant de l'església, destinat a Registre Civil. Durant el 1990 i el 1991 es va procedir a la refracció del paviment de l'església ia la neteja de la façana principal sota la direcció de l'arquitecte Jorge Bonet Armengol.
Com a cirereta de tot aquest procés de restauració, el 21,22 i 23 de setembre del 2018 va ser inaugurat el nou orgue de la Basílica en un meravellós festival que va tenir com a intèrprets Maria Nacy, Montserrat Torrent i l'organista francès Thomas Ospital. Va ser beneït al novembre pel Sr. Cardenal D. Juan José Omella Omella, sent l'organista de la cerimònia D. Héctor Paris. L'orgue va ser construït pel cèlebre mestre organer alemany D. Gérard Grenzing.
A manera de conclusió, els mercedaris van tornar el 2018 a la basílica per tenir cura pastoral a petició de l'Excm. Cardenal Sr. Juan José Omella, amb motiu del vuitè centenari de la Fundació de l'Ordre de la Mercè. El seu actual rector és el P. Fermín Delgado Ramírez.