La Société des chemins de fer décide, en 1858, de construire une gare centrale, qui, pour des raisons militaires, devra se situer à l'extérieur des fortifications de la ville, mais à l'intérieur du rayon de la forteresse.
Le bâtiment de la gare, imitant le style suisse, devra, c'est le commandement prussien de la forteresse qui l'exige, être construit en bois. Malgré la Passerelle reliant la gare à la vieille ville, le développement du quartier de la gare reste impossible tant que la forteresse de Luxembourg existe. En effet, pour faciliter leur destruction en cas de guerre, tous les bâtiments érigés à l'intérieur du rayon de la forteresse doivent obligatoirement être exécutés en bois et en colombage. Cette restriction ne disparaîtra qu'avec le démantèlement des fortifications. Le quartier de la gare pourra enfin s'épanouir.
Après la guerre franco-allemande de 1870-1871, c'est la Elsass-Lothringische Reichsbahngesellschaft qui gère les chemins de fer luxembourgeois ayant appartenus jusque-là à la Compagnie de l'Est. Cette société allemande érigera, en 1907, l'actuelle gare centrale d'après un projet du colonel Alexandre Rüdell. Le bâtiment gigantesque, flanqué d'une haute tour, évoque plutôt une abbaye de Bénédictins qu'une gare centrale. Les façades sont exécutées dans le style baroque de la région mosellane. Un vitrail apposé sur la façade donnant sur le quai représente la communication Vieille ville - Pont Adolphe - Caisse d'Epargne - Gare.