La storia inizia nel 1989, l'anno in cui morì l'imperatore Showa. Nel giugno di quell'anno, la sua famiglia, ovvero Akihito e l'Imperatrice Madre Kojun, donò allo Stato un insieme di opere d'arte. Si trattava di tesori tramandati all'interno della casa imperiale per generazioni. La nazione aveva ora bisogno di un luogo dove conservarli, studiarli e mostrarli al pubblico. La risposta fu un museo costruito all'interno dei Giardini Orientali del Palazzo Imperiale. La costruzione fu completata nel settembre 1992 e le porte si aprirono ai visitatori il 3 novembre 1993. Nel corso degli anni seguirono altre donazioni, tra cui opere provenienti dalle famiglie del Principe Chichibu, del Principe Takamatsu e del Principe Mikasa, oltre che dall'Imperatrice Madre. Il nome porta con sé una propria storia. Sannomaru significa la terza cinta dell'antico Castello di Edo, ed è proprio dove sorge il museo. Shozo significa conservare con grande cura. Richiama un antico titolo, quello del capo dell'ufficio che si occupava degli oggetti legati all'imperatore nei primi codici di legge. Il nome è quindi, letteralmente, una promessa di custodire con cura ciò che contiene.