El primer museo judío abrió sus puertas en Budapest en enero de 1916, aunque fue renovado, ampliado y se hizo cargo de una colección mucho más importante en diciembre de 1926, en el complejo de edificios del Centro Cultural Judío de la calle Dohany. Desde entonces, el museo organizó numerosas exposiciones.
Durante la guerra, los judíos húngaros sufrieron una represión cada vez mayor. Por eso, los directores del museo comenzaron ya en 1942 a transferir la mayor parte de los objetos y de las colecciones fuera del edificio; algunos fueron evacuados a celdas del Museo Nacional. Tras la toma del poder nacionalsocialista en 1944, se creó un ghetto junto al edificio del museo. Debido a una grieta en el muro del edificio, los judíos del ghetto podían salir del mismo, para huir, buscar comida y volver a entrar en el ghetto.