Avant qu'il n'existe un mémorial, ce terrain appartenait aux soldats. À l'époque Qing, un bataillon stationné à l'extérieur de la porte est de la ville fortifiée de Taipei campait sur l'emplacement de l'actuel parc. Sous la colonisation japonaise, la zone s'appelait Asahi-cho. Une base d'artillerie de montagne y fut ouverte en 1905, et en novembre 1944 une base de régiment d'infanterie lui succéda. Après 1945, celles-ci furent supprimées, et lorsque le gouvernement de la République de Chine s'installa à Taïwan en 1950, les bâtiments furent démolis. Le site accueillit alors le quartier général de l'armée de terre, le quartier général des forces combinées et le quartier général de la police militaire. À cette époque, c'était la plus grande zone militaire du centre de Taipei. Puis vint le 5 avril 1975, date à laquelle Chiang Kai-shek mourut d'une crise cardiaque. Le gouvernement mit en place un comité funéraire et, le 26 juin, approuva un groupe préparatoire chargé de planifier un mémorial, composé de seize membres issus du gouvernement et du monde des affaires. Le 2 juillet, le site fut choisi, délimité par la route Hangzhou Sud, la route Zhongshan Sud, la route Aiguo Est et la route Xinyi. La route Linsen Sud traversait autrefois directement le site ; elle fut détournée dans un passage souterrain pour dégager l'espace. Le concept fut retenu à l'issue d'un concours, et le lauréat fut Yang Cho-cheng, l'architecte de l'Grand Hotel de Taipei. La cérémonie d'achèvement eut lieu le 4 avril 1980, avec plus de 4000 participants et environ 400 invités étrangers. La salle ouvrit au public le lendemain, à la cinquième année de la mort de Chiang.