Neste local da Rive Droite do Sena existiu desde o século IV uma antiga basílica da igreja católica romana. Em 1494, sobre as fundações remanescentes desse edifício, a Église Saint-Gervais – Saint-Protais começou a ser construída em estilo gótico. As capelas e a abside foram concluídas em 1530 e o transepto em 1578. A magnífica fachada é do início do século XVII, de estilo clássico francês com colunas das três ordens: dóricas, no térreo; jônicas , no segundo andar e coríntias no terceiro andar.

O nome da igreja hoje em dia soa estranho, mas a dupla Gervais e Protais, em latim Gervasius e Protasius, nome de dois irmãos gêmeos mártirizados na época do imperador Nero, era muito popular no século XVI.

Durante mais de dois séculos, a partir de 1653, esta igreja abrigou uma das mais célebres dinastias de músicos franceses, os Couperin, entre eles o famoso compositor François Couperin, organista da Capela Real do rei Louis XVI. Ao lado da igreja, na rue François-Miron, ainda existe a casa em que viveram. No interior se aprecia o magnífico órgão de estilo Barroco Francês, considerado o mais antigo de Paris, obra dos célebres construtores François-Henri, Louis Alexandre e Robert Clicquot.

Durante a Primeira Guerra, no dia 29 de março de 1918, sexta-feira santa, um obus alemão lançado por um canhão de longo alcance atingiu o edifício, matando 88 e ferindo 68 pessoas. Os alemães haviam chamado a monstruosa arma “canhão Paris”, em alemão Paris-Geschütz.

A partir de 1975 a igreja foi confiada à Fraternidade Monástica de Jerusalém, cuja liturgia atrai, além dos fieis, muitos curiosos e turistas. A igreja tem um interessante quadro de Guercino.