A história desta igreja remonta à época merovíngia, mas o edifício que conhecemos é o resultado de obras, reformas e adaptações efetuadas à partir do século XII. Quando a dinastia dos Valois se instalou no palácio do Louvre, durante o século XIV, St- Germain l'Auxerrois passou a ser a igreja da família real e abrigava uma mistura entre realeza, cortesãs, artistas, homens da lei e artesãos locais. O elemento arquitetônico mais antigo é a torre românica erguida no século XII. No século seguinte foram construídos o portal oeste, o coro e a capela da Virgem, mais tarde, no século XV, houve varias reformas. A igreja contém 78 metros de vitrais, incluindo rosáceas do período Renascentista. O órgão da igreja é impressionante e foi originalmente encomendado por Louis XVI para Sainte-Chapelle. Baseados em design de Le Brun, os bancos da igreja, do século XVII, merecem atenção especial.
A Église Saint Germain l'Auxerrois teve uma triste participação num dos mais sinistros episódios da história de Paris e da França, conhecido como "la Saint-Barthélemy" ou Massacre da noite de São Bartolomeu, quando milhares de protestantes foram assassinados durante a madrugada. Na noite de 24 de agosto de 1572 os sinos da pequena torre sul da igreja começaram inusitadamente a tocar: era o sinal para que os católicos entrassem em ação, numa operação orquestrada pela rainha mãe Catarina de Médice e apoiada por seu filho Charles IX, para eliminar o maior número possível de protestantes. Estes haviam sido atraídos traiçoeiramente a Paris e, em sua maioria, dormiam naquela noite o sono dos inocentes depois das suntuosas festas com as quais se comemorava o casamento entre Margueritte de Valois, a famosa Reine Margot, e Henri de Navarre, futuro rei Henri IV. Ela era católica, ele protestante, e essa cerimônia que parecia um sinal de paz nas guerras religiosas que opunham cristãos católicos a cristãos protestantes serviu para atrair milhares de protestantes, também conhecidos na época como huguenotes, para a terrível armadilha. Dentre os sinos que deram o fatídico sinal ainda existe um, datado de 1527, conhecido como Marie (sino em francês é feminino: cloche).
Durante a Revolução Francesa, a igreja foi transformada em depósito de feno, gráfica, posto de polícia e fábrica de nitrato de potássio – um dos componentes da pólvora, conhecido desde a Idade Média na França como salpêtre, do latim salpetrae, sal de pedra.
Em 1802 a igreja foi restituída ao culto católico. Por mais de uma vez escapou de ser demolida, a última delas durante a grande reforma urbana de Paris conduzida pela barão Haussmann que era protestante e achou que seria considerado vingativo se aceitasse a ideia de derrubar St- Germain l'Auxerrois para ampliar a praça defronte ao Louvre e valorizar a grande colunata da fachada leste. Em vez disso, para dar mais harmonia a esse espaço urbano, Haussmann mandou construir um edifício para a administração do bairro (Mairie du Ier arrondissement) com uma fachada similar à da Igreja e fez elevar, entre ambos, um campanário em estilo neogótico flamboyant, obras realizadas entre 1858 e 1863.
Grandes personalidades foram sepultadas nessa igreja, entre elas o escultor Antoine Coysevox (1640-1720) e o famoso Louis Le Vau, arquiteto dos palácios de Vaux-le-Vicomte, Louvre, Tulleries e Versailles.