A história da Gare de Lyon começa em 1849 com um precário cais de embarque para os trens da companhia privada PL, que fariam a linha Paris –Lyon. A empresa estava em litígio com o Estado, pois pretendia chegar com a via férrea até a place de la Bastille em vez de parar ali, justo em frente a uma grande prisão, a “prison Mazas”, que existia na época.

Um segundo edifício foi construído em 1855, com uma cobertura de 220 metros de comprimento por 42 de largura, suficiente para 5 vias, projeto do arquiteto chefe da companhia François-Alexis Cendrier. O terreno havia sido elevado cerca de 8 metros, medida preventiva contra as inundações do Sena. Em 1871 essa estação foi parcialmente destruída por um incêndio, durante a Commune de Paris, mas foi restaurada em seguida. A incômoda prison Mazas foi demolida em 1888.

A estação de 1855 foi substituída pela Gare de Lyon que conhecemos hoje, construída para a Exposição Universal de 1900. O edifício foi projetado pelo arquiteto Marius Toudoire, para abrigar 13 vias e se destaca pela grande torre, que tem 64 metros de altura, com gigantescos relógios cujos cadrans tem 6,5 metros de diâmetro, os ponteiros das horas 2,8 e os dos minutos 4 metros. A estação recebeu também a primeira linha de metrô construída em Paris. Em anos recentes sofreu adaptações para receber os trens de alta velocidade (TGV)

A Gare de Lyon abriga até hoje o fulgurante e histórico restaurante Le Train Bleu, inaugurado no início de 1901.