A história começa no início da década de 1800, quando um assentamento birmanês cresceu em Pulau Tikus. A comunidade queria um lugar para orar. Uma mulher conhecida como Nonia Betong, às vezes grafada como Nyonya Betong, tomou a frente. Uma placa no templo a nomeia como principal administradora, ao lado de três outras administradoras mulheres. Elas compraram terras de um homem chamado George Layton por 390 dólares espanhóis, a moeda comum da época. As transações de terra em Penang exigiam então a aprovação do Governador-Tenente britânico, Sir George Leith, que autorizou a transferência para as administradoras. Um pequeno templo, inicialmente chamado de templo Nandy Moloh ou Nandy Molah, foi fundado em 1803. Algumas fontes indicam 1805 como a data do primeiro templo budista de Penang. Isso corresponde à parte mais antiga do complexo que ainda sobrevive, o estupa, consagrado em 1805. Assim, a fundação data de 1803, e o estupa foi construído dois anos depois. É um começo notável para um templo liderado por mulheres.