Il tempio fu fondato nel 1822, nel secondo anno del regno Daoguang, e completato nel 1824. Due fratelli di Yongding, nel Tingzhou, Luo Kebin e Luo Kerong, donarono un terreno a Tamsui. Un raccoglitore di fondi originario del Guangdong, di nome Zhang Ming-gang, raccolse il denaro per la costruzione. Il progetto porta un messaggio. L'edificio fu orientato verso la patria di Tingzhou, e la sua struttura, due sale, due corridoi e due stanze laterali, è diversa dai soliti templi di Zhangzhou, Quanzhou o Chaozhou. Oggi è l'unico tempio di stile Tingzhou a Taiwan. Le stanze laterali sono la parte della storia legata alla gilda. Nel diciannovesimo secolo, i migranti Hakka di Tingzhou che sbarcavano a Tamsui si fermavano prima nel tempio. Vi imparavano l'ambiente circostante e trovavano il modo di guadagnarsi da vivere, e solo dopo proseguivano verso il bacino di Taipei. In sostanza, il tempio funzionava come un insieme di santuario, ostello e ufficio della terra natale. I primi templi di Tamsui furono spesso fondati per proteggere pescatori ed equipaggi delle barche. Con l'arrivo di un numero crescente di coloni, comparvero templi dedicati alle divinità della terra ancestrale, e il Tempio Yinshan ne è un chiaro esempio.