Imagine um marinheiro teochew no início da década de 1800, desembarcando perto da margem sul do rio Singapura depois de semanas no mar. A primeira coisa que ele queria fazer era agradecer. Segundo a tradição, o santuário mais antigo era uma estrutura modesta de attap na Phillip Street, dedicada a Mazu, protetora dos marinheiros. Os imigrantes o ergueram para agradecer-lhe por uma travessia segura. O ano exato da fundação ainda é debatido. Alguns relatos apontam para cerca de 1819. Outras evidências, incluindo queimadores de incenso de pedra móveis datados de 1819 e 1826 e um par de couplets datado de 1826, sugerem que o templo já existia neste local em um desses dois anos. A tradição atribui a fundação a comerciantes teochew, entre eles Tan Heng Kim, lembrado como o primeiro Captain China de Singapura. O templo logo ultrapassou suas pequenas origens. Em 1845, a Ngee Ann Kongsi, uma associação teochew, assumiu sua administração. Nos primeiros anos, ela foi liderada por Seah Eu Chin, um rico comerciante de pimenta e gambier. Entre 1852 e 1855, o templo foi reconstruído com fundos arrecadados junto à crescente comunidade teochew.