Ursprünglich stammt die Familie Palm aus dem Bürgertum der Stadt Esslingen. Innerhalb von drei Generationen schafften sie als Bankiers und Diplomaten mit Johann David Palm 1687 den Aufstieg in den ungarischen Adelsstand. 1711 folgte für Johann David, sowie seine Brüder Johann Heinrich, Jonathan und Franz die Erhebung in den Reichsfürstenstand. 1735 folgte die Erhebung in den Reichsfreiherrenstand. Doch währte der Adelsstand nicht lang. Denn mangels männlicher Nachkommen ist der Adelsstand der Familie von Palm 1851 bereits wieder erloschen.
1728 erwarben Jonathan und Franz von Palm den Ort Mühlhausen am Neckar, mit samt des Ritterguts Mühlhausen. 1813 ließ die Familie von Palm das baufällige Herrenhaus abreißen und das heute noch stehende Palm'sche Schloss in den Jahren 1813 bis 1814 auf den Fundamenten des ehemaligen Herrenhauses errichten. Gebaut wurde das Schloss ursprünglich als zweigeschossiges Schlösschen im klassizistischen Stil. 1896 hat Ernst Theodor von Palm das Schloss mit Fachwerkgiebeln und Türmchen aufgestockt. Erhalten blieben die dreigeteilten Palladio-Fenster zur Straße hin, sowie der die Fassade stark akzentuierende Mäanderfries. In diesem Zusammenhang ist auch der deutlich mächtigere Anbau erstanden, welcher über einen Mitteltrakt mit dem ursprünglichen Schlossbau verbunden ist. Der Anbau wurde im deutlich schlichteren romanisierenden Stil erbaut.
Während des 2. Weltkrieges ist ein Seitenflügel der Anlage leicht beschädigt worden. Der Wiederaufbau 1950/51 fiel deutlich schlichter aus, als der ursprüngliche Bau. So wurden zerstörte Türmchen und Staffelgiebel nicht wieder erneuert. Es folgten über Jahrzehnte Diskussionen. Immer wieder wurde angeregt, das Schloss für einen neuen Verwaltungsbau abzureißen. Doch erfolgte Mitte der 1980er Jahre ein Umdenken und so wurde 1988 bis 1990 eine umfangreiche Sanierung durchgeführt. Aus diesen Maßnahmen stammt u.a. der gläserne Aufzug an der Rückseite des Baus. Seitdem residiert hier das Bezirksamt Mühlhausen.
Im Garten des Schlosses sind noch ein Brunnenhaus von 1734, ein Brunnentrog mit Löwenkopfspeier ebenfalls aus dieser Zeit, sowie ein Pavillon erhalten. Vor dem Schloss stehen der Schlossbrunnen und eine Mühlsteininstallation.
In unmittelbarer Nähe befinden sich die Ruinen der Engelburg, der Eingang zum Pionierstollen Mühlhausen, sowie der Gedenkstein zur Erinnerung an den 21. October 1876.