C'est en 1961, dans le Palais de Tokyo, que le mussée a ouvert ses portes pour accueillir les collections d'art moderne conservées au musée du Petit-Palais. Marquées par la Deuxième Guerre mondiale, les collections sont le reflet des courants artistiques français et européens du XXe siècle, fauvisme (Derain, Vlaminck..), cubisme (Picasso, Braque, Gris...), dadaïsme, surréalisme, école de Paris (Modigliani, Soutine..), abstraction, nouveau réalisme, support surface, Arte Povera, art conceptuel... Dès ses origines, les donateurs, collectionneurs ou artistes ont constitué une source essentielle à l’enrichissement du musée. Ainsi, c’est au legs exceptionnel du docteur Maurice Girardin en 1953 (plus de 500 œuvres) que l’on doit les points forts de l’actuelle collection avec un noyau de peintures fauves, un ensemble important d’œuvres cubistes et de nombreuses œuvres de l’École de Paris. L'apport de ce legs sera décisif et déterminera alors les autorités parisiennes à s'affranchir des cimaises devenues trop étroites du Petit Palais pour ouvrir un lieu propre au sein du Palais de Tokyo. Depuis 2007, plus de 800 œuvres ont été reçues en don, venant enrichir considérablement les collections du musée, riches désormais de plus de 10.000 œuvres. Le musée a pu également acquérir plus de 200 œuvres, grâce à une active politique de mécénat menée par la société des Amis du musée venant compléter le budget municipal qui lui est alloué.
— Atout
Oeuvres monumentales de Sonia et Robert Delaunay, de Dufy et Matisse. Gleize, Villon. Deux des trois tryptiques de "la danse" réalisés pour le Docteur Barnes par Henri Matisse. La "Fée Electricité" de Raoul Dufy et des laques de Dunand.
Le bâtiment est caractéristique du style des années 1930 . Il a été édifié à l'occasion de l'Exposition internationale des arts et des techniques en 1937 par Dondel, Aubert, Vard, Dastugue.