Tokijský palác byl vybudován u příležitosti světové výstavy konané na březích Seiny v roce 1937. Muzejní objekt situovaný v šestnáctém pařížském okrsku sloužil jako Palác muzeí moderního umění (Palais des Musées d'art moderne), v němž se konala retrospektiva francouzského umění od středověku do současnosti zahrnující více než 1300 děl. Autorem paláce se dvěma výstavními křídly a velkolepým jižním nádvořím obráceným k nábřeží Seiny byla čtveřice architektů Jean-Claude Dondel, André Aubert, Paul Viard a Marcel Dastugue, jejichž projekt byl vybrán ze 128 soutěžních návrhů. Na počátku 40. let byla část sbírek odvezena z okupované Paříže do bezpečí a suterén muzea byl využíván k ukládání zabaveného židovského majetku. V červnu 1947 se veřejnosti znovu otevřelo západní křídlo Národního muzea moderního umění, které se v roce 1977 přestěhovalo do
Centre Georges Pompidou. Později budova převzala název Palais de Tokyo s odkazem na stejnojmenné nábřeží. V 50. letech prošel palác přestavbou, kde od roku 1961 sídlí ve východním křídle Muzeum moderního umění města Paříže (Musée d'art moderne de la Ville de Paris). Další umělecká díla byla v roce 1986 převezena do
Musée d'Orsay a 1991 na předměstí La Défense. V letech 1984-93 zde sídlilo Národní fotografické centrum (2005 se přestěhovalo se bývalého
Amerického kulturního centra) a 1988-95 zde fungovala filmová škola Femis. V 90. letech proběhly u příležitosti oslav sto let kinematografie opravy Palais du Cinéma (podle vítězného projektu
Franck Hammoutène), které musely být v roce 1997 zastaveny, přičemž řada interiérů zůstala v polorozbořeném stavu až do roku 1999, kdy se ministerstvo kultury rozhodlo vybudoval zde místo pro současné umění. Kromě časové tísně byl na rekonstrukci velmi omezený rozpočet tři miliony euro. Projektu se ujal místní ateliér Lacaton & Vassal. Pocit permanentní nedokončenosti nakonec dává instituci svobodného ducha a umožňuje vystavujícím umělcům naplno využít rozlehlé výstavní sály. Od roku 2001 nese budova název Centrum současného umění Tokijský palác. Po deseti letech od znovuotevření prošlo muzeum druhou fází rekonstrukce, kdy se rozrostla výstavní plocha z původních 7800 m² o dalších 16500 m².