Este santuário mudou de lugar mais de uma vez, e sua história começa nos primeiros anos da era Meiji. Ele foi fundado em 1868, ou em 1869, dependendo do relato, na região de Futaba, em Hiroshima. Sua finalidade era lamentar os homens do domínio de Hiroshima que morreram na Guerra Boshin, o conflito civil que acompanhou o fim do xogunato Tokugawa e o nascimento do Japão moderno. Em 1934, o santuário foi desmontado e transferido para um local ao lado do antigo estádio municipal de beisebol de Hiroshima. Em 1939, recebeu o nome de Santuário Gokoku de Hiroshima, o nome que carrega até hoje. Essa era a forma do santuário que existia na cidade em 1945. Então veio a bomba atômica. O santuário foi destruído. Em 1956, foi reconstruído no local atual, no antigo terreno do castelo, com a ajuda de doações dos cidadãos de Hiroshima. Pessoas comuns pagaram para trazê-lo de volta, e esse fato diz muito sobre o significado do santuário para a cidade.