Nový židovský hřbitov nahradil již nevyhovující starý hřbitov ve Fibichově ulici na Žižkově. Většina staveb je postavena v novorenesančním slohu, včetně obřadní síně, která stojí hned u vstupu do areálu na křižovatce ulic Vinohradská a Jana Želivského. Některé náhrobky jsou díly předních českých sochařů a architektů, například Jana Kotěry či Josefa Fanty.
I proto je hřbitov zapsán na seznam chráněných kulturních památek Kromě již zmíněného Franze Kafky našli na Novém židovském hřbitově místo svého posledního odpočinku také členové významných podnikatelských rodin Petschků a Waldesů. Pohřben je tu i básník Jiří Orten či spisovatel Ota Pavel. Na hřbitově se nachází rovněž Památník československých židů.