La historia comienza en otro lugar. El 1 de diciembre de 1952, el museo abrió sus puertas en Kyobashi, en el distrito de Chuo, como el primer museo nacional de arte de Japón. La esperada instalación nacional, donde los visitantes podían disfrutar del arte moderno, se alojó en la antigua sede de la Nikkatsu Corporation. El arquitecto Maekawa Kunio había diseñado y reformado el edificio para su nuevo uso. Desde el principio, el museo pensó más allá de las disciplinas. En 1953 organizó una exposición de fotografía contemporánea de Japón y Estados Unidos. En 1954 llegó Gropius y la Bauhaus. Juntas se extendieron a la fotografía, el diseño y la arquitectura, mucho más allá de la pintura y la escultura. También creció una sede del museo en Kioto, y en 1967 se convirtió en el Museo Nacional de Arte Moderno, Kioto, independiente. De vuelta en Tokio, la colección siguió creciendo gracias a nuevas adquisiciones, traslados de obras desde la Comisión de Protección de Bienes Culturales y donaciones de artistas y coleccionistas. Con el tiempo, el edificio de Kyobashi resultó sencillamente demasiado pequeño. En junio de 1969 el museo reabrió aquí, en Takebashi, en un edificio completamente nuevo.