Ecco la storia come la racconta il santuario. La tradizione del santuario sostiene che la fondazione avvenne nell'anno quattrocentocinquantotto, quando la divinità Amenotajikarao no Mikoto fu qui consacrata per ordine imperiale. Poi, nel milletrecentocinquantacinque, la gente del luogo che venerava Sugawara no Michizane lo invitò a essere adorato anche qui. È così che l'uomo conosciuto come il dio dell'apprendimento ottenne una casa su questa piccola collina a Edo, la città che divenne Tokyo. Nel millequattrocentosettantotto, Ōta Dōkan, il guerriero associato alla prima disposizione del Castello di Edo, ricostruì il santuario. Una leggenda si lega a quella ricostruzione. L'Edo Meisho Zue, una guida ottocentesca ai luoghi famosi della città, registra che Dōkan incontrò Michizane in sogno, e che poco dopo arrivò un uomo che portava un ritratto detto essere di mano di Michizane stesso; colpito dalla somiglianza con il volto che aveva visto nel sogno, Dōkan costruì una sala per esso. Prendetela come leggenda, ma notate cosa vi dice: questo santuario si era già fatto strada in profondità nell'immaginazione della città. Poi arrivarono i Tokugawa. Quando Tokugawa Ieyasu entrò nel Castello di Edo nel millecinquecentonovanta, tenne questo santuario in particolare riverenza, e nel millecinquecentonovantuno donò cinque koku di terra nel villaggio di Yushima per finanziare i suoi riti. Fino alla separazione Meiji tra Shinto e Buddhismo, il grande tempio Kan'ei-ji a Ueno fungeva da bettō, o tempio amministrativo, del santuario, con il vicino Kiken-in che gestiva gli affari pratici. Il santuario fu chiamato Yushima Shrine per un lungo tratto della storia moderna, e cambiò nome in Yushima Tenmangū nell'anno duemila; nel duemilauno fu designato santuario Beppyo da Jinja Honchō, l'associazione dei santuari shintoisti. La sua festa annuale cade il venticinque maggio.