Cet ancien hôtel particulier, oeuvre de l’architecte Pierre Rousseau pour Frédéric III de Salm-Kyrbourg, était en construction alors que Thomas Jefferson était Ministre plénipotentiaire de la jeune république américaine auprès du royaume de France, de 1785 à 1789. Il eut une influence très importante sur l’architecture américaine.
En effet, en mars 1787, Jefferson écrivit qu’il s’était “violemment enthousiasmé” à son propos. Il écrivit également à l’architecte français Pierre L’Enfant, qui conçut plus tard les plans de la capitale fédérale, Washington D.C., que les deux façades de l’Hôtel de Salm comptaient parmi “les façades les plus glorifiées des bâtiments modernes” qui puissent servir de modèle aux États-Unis. Jefferson lui-même s’inspira beaucoup de l’Hôtel de Salm pour la conception de sa résidence privée, à Monticello en Virginie.
Au début du 19ème siècle, l’Hôtel de Salm fut racheté par la Grande Chancellerie de la Légion d’Honneur.