Die Geschichte der Simmerner Friedhöfe beginnt im 15. Jahrhundert. Zunächst wurden die Toten in unmittelbarerer Nähe der Stephanskirche beerdigt. Ein Beinhaus befand sich in der dahinter liegenden Heiligkreuzkapelle. Platzmangel und Hygiene erforderten schon im 16. Jahrhundert eine Verlagerung des Friedhofs außerhalb der Stadtmauer im Bereich der Mühlengasse (heute Rottmannpark). Mit Einführung der Reformation wurde der Friedhof konfessionell getrennt, die Flurparzellen gehörten der evangelischen, der katholischen und der Zivilgemeinde. Auf diesem Friedhof stand bis 1864 eine Grabkapelle, die auf Abbruch versteigert wurde.
Der heutige Simmerner Friedhof wurde 1908 angelegt. Es gab wegen der konfessionellen Aufteilung viel Streit und einen Prozess, der bis nach Berlin zum Kaiser ging.
Der Friedhof wurde mehrfach erweitert und spiegelt zugleich die Veränderungen der Bestattungskultur im Laufe der Jahrzehnte. Die Stadt hat sich zudem entschlossen, einen Friedhofsteil zur Erinnerung an besondere Persönlichkeiten aus der Stadtgeschichte zu reservieren. Hierhin wurde z.B. der Grabstein des früheren Bürgermeisters Peter Josef Rottmann aus dem alten Friedhof in der Mühlengasse verlegt.
Die Aussegnungshalle wurde 1950 errichtet und mehrfach renoviert, zuletzt in den Jahren 2017 und 2018.
Das Ehrenmal für die Gefallenen des Ersten Weltkriegs (1914-1918) wurde im Juni 1925 eingeweiht. In den 1950er Jahren wurde das Ehrenmal mit den Namenstafeln der Gefallenen des Zweiten Weltkrieges (1939-1945) erweitert.