Antes de ser museu, este era o Edifício Prefeitural de Tainan. Ele foi projetado por Moriyama Matsunosuke, arquiteto do departamento de engenharia civil do Gabinete do Governador-Geral de Taiwan. A cerimônia de cobertura da estrutura ocorreu em 11 de outubro de 1913, e em 20 de maio de 1916 os escritórios de Tainan se mudaram para cá, vindos da antiga Sede do Intendente de Circuito da era Qing, local que hoje abriga a Escola Primária Yongfu. O terreno também tem sua história. Em 1910, o chefe da agência de Tainan pediu ao governo colonial um novo edifício, e o plano começou com outros terrenos candidatos. Então, em 1911, uma forte tempestade atingiu o sul de Taiwan, e cerca de 80 por cento do antigo edifício do governo foi danificado. O novo prédio foi então colocado ao lado norte do Templo de Confúcio. A construção cresceu por etapas. No início, apenas a entrada frontal e suas torres estavam de pé. As duas alas foram acrescentadas entre 1918 e 1920. Em setembro de 1920, os distritos ocidentais de Taiwan foram reorganizados em cinco prefeituras, e a Prefeitura de Tainan, que abrangia os atuais Yunlin, Condado de Chiayi, Cidade de Chiayi e Tainan, adotou este edifício como sede. O governo municipal também dividiu o prédio.