Die Eheschließung mit Joachim Friedrich von Kleist fand am 29. September 1769 in der Kirche zu Lossow statt. Die damals vierzehnjährige Caroline war eine Tochter des verstorbenen Hauptmanns von Wulffen, Erbherr auf Steinhöfel und Kersdorf.
Schon seit Jahrhunderten war die Geschichte Steinhöfels mit der Familie von Wulffen verbunden. Bis 1774 befand es sich in deren Besitz, dann verkaufte man es an den Staatsminister von Blumenthal.
In den 1790er Jahren ließ der preußische Hofmarschall Valentin von Massow auf Steinhöfel den ersten preußischen Landschaftspark im englischen Stil anlegen. Er folgte damit dem Muster des Wörlitzer Parks. Auch Heinrich von Kleist besuchte „das wirklich romantische Steinhöfel“, über dessen Park er schrieb, dass dort alles „nach einer entworfenen Idee des Schönen gepflanzt, gebogen und geordnet“ sei.
Aus der Ehe von Joachim Friedrich und Caroline entsprangen die Töchter Bernhardine Friederike Caroline Wilhelmine und Philippine Ulrike Amalie.
Caroline verstarb kurz nach der Geburt ihrer zweiten Tochter Ulrike. Für ihre Grabstelle in der Garnisonkirche bezahlte der Witwer 50 Taler.