Na prijedlog Družbe Braća Hrvatskog Zmaja, Gradsko poglavarstvo Zagreba je 11. svibnja 1907. godine osnovalo Muzej grada Zagreba, sa zadatkom sustavnog prikupljanja i obrade predmeta iz gradske prošlosti.

Prvi postav muzeja postavljen je u kuli iznad Kamenitih vrata, a prvi ravnatelj bio je povjesničar Emilij Laszowski. Nakon velike Kulturno-povijesne izložbe u Umjetničkom paviljonu 1925. godine, muzej je znatno obogaćen izlošcima te mu je uređen novi prostor u prizemlju Umjetničkog paviljona.

Godine 1945. muzej se ponovo premješta, na lokaciju u baroknu palaču u Opatičkoj ulici broj 10. na Gornjem gradu. Napokon, 1947. godine Muzej grada Zagreba dobiva trajni smještaj u istoj ulici na prostoru nekadašnjeg samostana klarisa. Stalni postav, u kojem se prvi put sustavno i kronološki prikazuje povijest Zagreba, od prapovijesnih vremena do današnjih dana, otvoren je 1949. godine.

Tijekom 1990-ih godina muzej je proširen na cijeli kompleks bivšeg samostana prilikom čega su provedena arheološka istraživanja, konzervatorski i restauratorski radovi. Novi postav svečano je otvoren 1998. godine a prikazuje prošlost Zagreba u 45 tematskih cjelina – od političkoga, crkvenoga, povijesnoga i gospodarskoga do arhitektonsko-urbanističkoga, kulturno-povijesnoga, zabavnoga i svakodnevnoga.

U Muzeju se održavaju i razna stručna predavanja te prigodne izložbe koje su vezane uz zagrebačku prošlost, a nisu dio stalnog postava.