Die 1874 eröffnete Begräbnisstätte zählt zu den größten Anlagen ihrer Art in Europa. Auf 2,5 km² Fläche wurden bis heute rund drei Millionen Menschen bestattet, darunter viele Prominente in Ehrengräbern. Der Friedhof wurde notwendig, als im 19. Jahrhundert in Wien immer mehr Menschen lebten und die Zahl der Verstorbenen überproportional zunahm. Die kommunalen Friedhöfe reichten nicht mehr aus. Aus diesem Grund beschloss das Magistrat, einen Zentralfriedhof außerhalb der Stadt einzurichten.
Um dem zunächst kargen und ungeliebten Friedhof eine gewisse Attraktivität zu verleihen, schuf man 1881 eine Ehrengräberanlage. Die Gebeine von prominenten Persönlichkeiten wie die der Komponisten Franz Schubert und Ludwig van Beethoven wurden von anderen Friedhöfen hierher verbracht. 1910 entstand die nach dem einstigen Erzbischof von Mailand und katholischen Heiligen benannte Karl-Borromäus-Kirche. Eine mächtige Kuppel krönt das imposante Jugendstil-Bauwerk. Mit kunstvoll gestalteten Grabmalen wartet der alte und neue jüdische Friedhof im Westen des Areals auf.
Seit 1951 werden die Bundespräsidenten Österreichs in einer eigenen Gruftanlage des Wiener Zentralfriedhofs bestattet. Eine weite Rotunde markiert den Platz. Auf einer Gedenktafel stehen die Namen der verstorbenen Politiker. Eine der menschenreichsten Beerdigungen, die je auf dem Wiener Zentralfriedhof stattfanden, war die des beliebten Popstars Falco alias Johann Hölzel im Jahr 1998. Rund 4.000 Fans gaben ihm das letzte Geleit. Noch heute ist das Grab eine viel besuchte Pilgerstätte.