Diz a tradição que o abade de Saint-Martin d’Autun, Médéric ou Medericus em latim, passou a viver como eremita em uma cabana situada nas proximidades desse local e ai morreu no dia 29 de agosto de 700. A partir do século IX ele passou a ser cultuado como santo, Saint- Merri, e foi adotado como patrono da Rive Droite, região norte de Paris delimitada pela margem direita do rio Sena.

Consta também que um oficial da monarquia, Eudes Le Fauconnier, teria construido a Église St- Merri no século X para o culto do santo abade. Sobre isto não há certeza, certo é que Le Fauconnier existiu, pois quando a igreja foi reconstruída no século XVI, no velho cemitério foi exumado um esqueleto vestido como militar ao lado da inscrição em latim: « Hic jacet vir bonae memoriae Odo Falconarius fundator hujus ecclesiae ».

Desde o século X a igreja foi construída e reconstruída várias vezes. O edifício atual foi erguido entre 1515 e 1612 no estílo Gótico. Em 1709 houve uma reforma do coro. Fechada durante a Revolução Francesa, em 1793, como ocorreu com outras, a igreja foi transformada em fábrica de nitrato de potássio, um dos componentes da pólvora, conhecido desde a Idade Média na França como salpêtre, do latim salpetrae, salitre. A Église Saint- Merri possui o sino mais antigo de Paris, datado de 1331, que sobreviveu até mesmo à Revolução Francesa. O órgão foi reconstruído em 1781 pelo famoso construtor de órgãos, Cliquet, e foi tocado por Camille Saint-Saëns em 1832.

Alguns personagens ligados à Église Saint- Merri passaram para a história. Jean Beaupère, padre da paróquia, participou como juiz no tristemente célebre julgamento de Jeanne d’Arc; o poeta e prosador italiano Boccace (Giovanni Boccaccio, em italiano), autor do famoso Décaméron, foi paroquiano a partir de 1327, durante um período em que foi estudante de direito canônico em Paris; o erudito inglês Edmund Rich também pertenceu a essa paróquia num período em que estudou em Paris e deu aulas de matemática e dialética, por volta de 1200, antes de tornar-se arcebispo de Canterbury na Inglaterra e depois canonizado.