Der einstige Herrensitz gehört zu den schönsten Parkanlagen des Saarpfalz-Kreises
Der Saarpfalz-Kreis weist eine Vielfalt von Parkanlagen auf, die von historischer Bedeutung sind und dabei eine sehr unterschiedliche Gestaltung aufweisen. Unter der Bezeichnung „Gärten der Geschichte“ hat der Biosphären-Zweckverband diese Parkanlagen mit einer einheitlichen Beschilderung ausgestattet, die sowohl auf die Geschichte als auch auf die Besonderheiten der insgesamt 15 Parkanlagen hinweisen.
Die Stadt St. Ingbert ist daran mit der Gustav-Clauss-Anlage und mit dem Elsterstein Park vertreten. Mit diesen beiden Parkanlagen spannt die Stadt St. Ingbert einen sehr weiten kulturhistorischen als auch gestalterischen Bogen.
Angelegt wurde der Elsterstein Park von dem französischen Fabrikanten Nicola Gerdolle, der auf dem höchsten Punkt des Geländes 1835 ein Herrenhaus errichtete, das fortan in St. Ingbert als „Elsterstein Schloss“ bezeichnet wurde. In der Nähe dieses Herrenhauses hatte er eine Seifenfabrik eingerichtet, die aber nicht den erhofften Gewinn erbrachte.
Er verkaufte sein Herrenhaus und die dazugehörigen Waldflächen bereits 1843 an die Familie Krämer, die damaligen Besitzer des St. Ingberter Eisenwerkes.
Die Familie Krämer, die zu den einflussreichsten und bekanntesten Industriellen gehörte, verwandelte den an das Herrenhaus angrenzenden Wald in einem Park, der mit zahlreichen exotischen Bäumen bepflanzt wurde. Das Elsterstein Schloss entwickelte sich unter der Regie der Familie Krämer zu einem Mittelpunkt des gesellschaftlichen Lebens der damaligen Fabrikbesitzer. Nachdem die Familie Krämer ihren Einfluss auf das St. Ingberter Eisenwerk verloren hatte, wurden das Herrenhaus und der dazugehörige Park 1937 an die Stadt St. Ingbert verkauft, die dann diese einstige hochherrschaftliche Anlage für die St. Ingberter Bevölkerung zugänglich machte. Die Stadt St. Ingbert hatte die Absicht, im Elsterstein Schloss ein Altersheim einzurichten, was aber durch den Ausbruch des zweiten Weltkrieges verhindert wurde. Während des Krieges wurde im Schloss Elsterstein ein Kindergarten eingerichtet. Kurz bevor die amerikanischen Truppen am 20. März 1944 in St. Ingbert einmarschierten, diente das ehemalige Herrenhaus als Kommandostand des Volkssturms, der St. Ingbert gegen die Amerikaner verteidigen sollte, was er aber zum Glück nicht tat.
Nach Kriegsende richteten die französischen Besatzungstruppen im Schloss Elsterstein ein Vergnügungsetablissement ein, das in St. Ingbert einen sehr zweifelhaften Ruf genoss. Nach dem Abzug der französischen Besatzungstruppen wurde 1947 im Schloss Elsterstein die saarländische Polizeischule eingerichtet, die aber 1964 wegen der Baufälligkeit des Gebäudes geschlossen werden musste. Ein Jahr später wurde der ehemalige Herrensitz der Familie Krämer abgerissen.
Noch im gleichen Jahr übereignete die Stadt St. Ingbert das Gelände an das Deutsche Rote Kreuz zum Bau eines Müttergenesungswerkes, das seit 1970 der Erholung von Müttern mit ihren behinderten Kindern dient. Bereits 1960 hatte die Stadt St. Ingbert in unmittelbarer Nähe des Herrensitzes der Familie Krämer das städtische Altersheim „Mathildenstift“ eingeweiht.
Der Elsterstein Park wurde durch die Anlage eines Regenrückhaltebeckens und eines Vogelweihers aufgewertet. Die historische Bedeutung des ehemaligen Schlosses Elsterstein liegt in einem innerhalb eines Jahrhunderts vollzogenen Wandel von einem von der Außenwelt abgeschirmten Herrensitz zu der Allgemeinheit zugänglichen karitativen Einrichtungen.