Sirenerna följdes av en ceremoni med tre tysta minuter som utlysts i hela landet. Kinas president Xi Jinping och andra toppar i Kommunistpartiet samlades samtidigt i Peking för att hylla den tidigare ledaren.
– Centralkommittén för Kommunistpartiet uppmanar hela partiet, armén och folket i alla etniska grupper i Kina att vända sorg till styrka, sade Xi under ceremonin.
Jiang Zemin har spelat en huvudroll i kinesisk politik över flera årtionden, både som president (1993–2003) och partitopp.
Flaggor hissas på halv stång i hela Kina under tisdagen och säkerhetsstyrkor har vidtagit beredskap för att hindra att folkmassor samlas.