Imaginez un marin teochew du début des années 1800, débarquant près de la rive sud de la rivière de Singapour après des semaines en mer. La première chose qu'il voulait faire était de rendre grâce. Selon la tradition, le plus ancien sanctuaire était une modeste structure en attap sur Phillip Street, dédiée à Mazu, protectrice des gens de mer. Les immigrants l'ont élevé pour la remercier d'une traversée sans encombre. L'année exacte de la fondation fait encore débat. Certains récits évoquent environ 1819. D'autres éléments, dont des brûle-encens en pierre mobiles datés de 1819 et de 1826, ainsi qu'une paire de couplets datés de 1826, suggèrent que le temple occupait ce lieu à l'une de ces deux dates. La tradition attribue la fondation à des marchands teochew, dont Tan Heng Kim, considéré comme le premier Captain China de Singapour. Le temple a rapidement dépassé ses modestes débuts. En 1845, le Ngee Ann Kongsi, une association teochew, en prit la gestion. Elle fut dirigée durant ses premières années par Seah Eu Chin, un riche négociant en poivre et en gambier. Entre 1852 et 1855, le temple fut reconstruit grâce à des fonds collectés auprès de la communauté teochew en pleine croissance.