Al fiel Hechler le dijo: «Dales a todos mis saludos y diles que he dado la sangre de mi corazón por mi pueblo».
El 3 de julio se declaró una neumonía y aparecieron signos de agotamiento inminente. Llegó su madre, y luego sus dos hijos menores, Hans y Trude. A las cinco de la tarde, su médico, que había apartado los ojos del paciente por un momento, oyó un profundo suspiro. Al volverse, vio la cabeza de Herzl hundida sobre su pecho.
En su testamento, Herzl pidió que su cuerpo fuera enterrado junto al de su padre, "para permanecer allí hasta que el pueblo judío lleve mis restos a Palestina". Cuando los rusos entraron en Viena en 1945, los restos de Herzl todavía estaban allí.