Antes de que existiera ningún memorial, estas tierras pertenecían a soldados. En el periodo Qing, un batallón acampaba fuera de la puerta oriental de la ciudad amurallada de Taipéi, alrededor de lo que hoy es el parque. En la época colonial japonesa la zona se llamaba Asahi-cho. Una base de artillería de montaña se instaló aquí en 1905, y en noviembre de 1944 le siguió una base de regimiento de infantería. Tras 1945 estas fueron abolidas, y cuando el gobierno de la República de China se trasladó a Taiwán en 1950, los edificios fueron derribados. El lugar albergó entonces el cuartel general del ejército, el cuartel general de las Fuerzas de Servicios Combinados y el cuartel general de la policía militar. En aquel momento era la mayor zona militar dentro de Taipéi. Luego llegó el 5 de abril de 1975, cuando Chiang Kai-shek murió de un infarto. El gobierno creó un comité funerario y, el 26 de junio, aprobó un grupo preparatorio para planificar un memorial, con dieciséis miembros procedentes del gobierno y del mundo empresarial. El 2 de julio se eligió el emplazamiento, delimitado por la avenida Hangzhou Sur, la avenida Zhongshan Sur, la avenida Aiguo Este y la calle Xinyi. La avenida Linsen Sur atravesaba este lugar en línea recta, y fue desviada hacia un paso subterráneo para dejar espacio. El diseño se eligió mediante concurso, y el ganador fue Yang Cho-cheng, el arquitecto del Grand Hotel de Taipéi. La ceremonia de finalización tuvo lugar el 4 de abril de 1980, con más de 4000 asistentes y unos cuatrocientos invitados extranjeros. La sala se abrió al público al día siguiente, en el quinto aniversario de la muerte de Chiang.