Obwohl dieser Friedhof bereits 1904 eröffnet wurde, wird er im allgemeinen Sprachgebrauch nach wie vor als neuer Friedhof bezeichnet. Diese Tatsache ist darauf zurückzuführen, dass der alte Friedhof Köln Kalk an der Kapellenstraße Anfang des letzten Jahrhunderts geschlossen und die neue Friedhofsanlage nach Merheim verlegt wurde. Zu diesem Zeitpunkt war Kalk noch kein Stadtteil von Köln, sondern eine selbständige Stadtverwaltung. Die Eingemeindung nach Köln erfolgte erst 1910. Daher wurden hier vorzugsweise die Einwohner dieser Stadt und aus dem Vorort Vingst bestattet. Das Grundstück für den neuen Friedhof wurde vom Kaufmann Joseph Bardenheuer zur Verfügung gestellt, der hier auch seine letzte Ruhestätte fand. 1917 wurde das System der Friedhofsverwaltung reorganisiert und der Friedhof Köln Kalk zum städtischen Hauptfriedhof. Bis 1983 erfolgen noch weitere Änderungen der Friedhofsverwaltung Kalk, die zu diesem Zeitpunkt aufgelöst und der Verwaltungsstelle Hauptfriedhof Mühlheim unterstellt wurde.
Die älteste Grabstätte in dieser 15,4 Hektar großen Parkanlage ist die Grabstätte von Aloys Thumb, dem vorletzten Bürgermeister der Stadt Kalk, der hier bereits 1900 in einem aufwendig gestalteten Grab beigesetzt wurde, das in Größe und Ausmaß eher an ein Denkmal erinnert. Nicht weniger auffällig ist das Wandgrab des ehemaligen Grundstückseigentümers Joseph Bardenheuer. Insgesamt befinden sich hier 14.000 Grabstätten und ein Ende ist noch nicht in Sicht. Die Friedhofsverwaltung trägt der veränderten Begräbnis- und Friedhofskultur Rechnung und bietet verschiedene Optionen für Erd- und Feuerbestattungen an. Baumbestattungen sind derzeit noch nicht möglich. Bei Erdbestattungen besteht die Wahl zwischen Einzel- und Doppelgräbern. Einzelgräber können nach Ablauf der 30-jährigen Totenruhe nicht erneut gekauft werden, während diese Option bei Doppelgräbern nach Ablauf dieser Zeit alle 10 Jahre zur Verfügung steht. Bei der Feuerbestattung besteht die günstige Möglichkeit einer Grabstätte mit verlegten Basisplatten ohne Pflegeverpflichtung für 20 Jahre sowie Urneneinzel- und Urnendoppelgräber mit einer Ruhedauer bis zu 25 Jahre.
Wer durch diese weitläufige alte Friedhofsanlage geht, bemerkt schnell den Unterschied zwischen den alten Grabstätten und denen aus neuerer Zeit. Die alten Grabstätten aus der Zeit um die Jahrhundertwende bis in die 1930er-Jahre hinein zeugen von einer ganz anderen Begräbniskultur wie wir sie heute kennen. Aufwendige Grabsteine, die mehr Türme als Steine sind, ausladend verzierte Wand- und Bodenplatten und riesige Familiengräber waren damals, als es die Menschen noch nicht so weit in die Welt hinauszog, an der Tagesordnung. Heute sind platzsparende und pflegeleichte Urnengräber, gerne auch ohne Pflegeverpflichtung, beliebt, da die Angehörigen meistens nicht mehr in Köln und Umgebung, sondern weiter wegwohnen.