Imagine a un marinero teochew de comienzos de la década de 1800 desembarcando cerca de la orilla sur del río Singapur tras semanas en alta mar. Lo primero que quiso hacer fue dar gracias. Según la tradición, el santuario más antiguo era una humilde estructura de attap en Phillip Street, dedicada a Mazu, protectora de los navegantes. Los inmigrantes la levantaron para agradecerle una travesía segura. El año exacto de su fundación aún se debate. Algunos relatos apuntan a alrededor de 1819. Otras evidencias, entre ellas quemadores de incienso de piedra móviles fechados en 1819 y 1826, y un par de pareados fechados en 1826, sugieren que el templo ya existía en este lugar en uno de esos dos años. La tradición atribuye su fundación a comerciantes teochew, entre ellos Tan Heng Kim, recordado como el primer Captain China de Singapur. El templo pronto superó sus humildes comienzos. En 1845, el Ngee Ann Kongsi, una asociación teochew, asumió su administración. En sus primeros años fue dirigido por Seah Eu Chin, un próspero comerciante de pimienta y gambier. Entre 1852 y 1855 el templo fue reconstruido con fondos reunidos entre la creciente comunidad teochew.