A normandiai Cherbourgban, Jean Alfred Villain-Marais néven látta meg a napvilágot. Még kisgyermek volt, amikor anyja - férjét otthagyva - gyermekeivel Párizsba költözött. Marais a legjobb gimnáziumba járt, ahol iskolatársa volt Louis de Funes és Jean-Paul Sartre is, de 13 évesen kimaradt, három év múlva pedig végleg felhagyott tanulmányaival. A színházhoz és a zenéhez kiskorától vonzódott, de sokáig csak elutasításban volt része, így alkalmi munkákból élt, esténként statisztált.
A feltűnően jóképű fiatalembert 1937-ben választotta ki Jean Cocteau, a francia kulturális élet egyik meghatározó alakja Oidipusz király című drámájának egyik szerepére, kapcsolatuk Cocteau 1963-ban bekövetkezett haláláig tartott. Marais az író-rendező szinte valamennyi filmében szerepelt, így a Rettenetes szülők, az Örök visszatérés, A szépség és a szörnyeteg, az Orfeusz című alkotásokban. Cocteau támogatásával lett nemzetközi hírű színésszé, a francia filmművészet egyik oszlopává, amihez persze tehetsége is kellett.
Marais a második világháborúban, Párizs felszabadulása után belépett a francia hadseregbe és kitüntetéssel szerelt le. Ezután nők millióinak szívét dobogtatta meg mint Ruy Blas a Királyasszony lovagjában, játszott kosztümös kalandfilmekben (A púpos, Cléves hercegnő, A vasálarcos, Fracasse kapitány), a Fantomas-trilógiában ezerarcú gonosztevő volt. Olyan kiváló rendezőkkel dolgozott, mint Jean Renoir, Luchino Visconti, partnere volt Yves Montand, Jean Gabin, Michelle Morgan és Louis de Funes. Filmjeire tódultak a nézők, azon kevés mozisztár közé tartozott, akik a legveszélyesebb jeleneteket is dublőr nélkül forgatták.
A hetvenes évektől már csak színházban játszott, a filmezéshez 1982-ben tért vissza, de korábbi sikereit nem tudta megismételni. Utoljára Bertolucci Lopott szépség című alkotásában jelent meg a filmvásznon egy rövidke szerepben, színpadon utoljára Prosperót játszotta Shakespeare A vihar című színművében.
Élete utolsó tizenöt évét a Riviérán, a Cannes közelében fekvő Vallauris falucskában töltötte, ahol kerámiákat készített, festett, megírta emlékiratait, gyakori vendége volt a közelben élő Pablo Picasso. Marais festőként, szobrászként és íróként is elismertnek számított, A faljáró című szobra, amelyet Marcel Aymé regénye ihletett, Párizs Montmartre negyedében látható. Huszonöt éven át volt az elnöke a francia filmművészek szövetségének, 1996-ban megkapta a Becsületrendet.
Élete végén egészsége megrendült, két alkalommal is súlyos mellhártyagyulladással kezelték, a múlt század második felének egyik legismertebb és legkedveltebb francia színészét 1998. november 8-án érte a halál. Utolsó útjára ezrek kísérték, sírjára bronz portrét állítottak, amely a Szépség és a szörnyeteg főszerepében ábrázolja. Élete mentes volt a botrányoktól, a harmóniát kereste mindenben. Egyik utolsó interjújában azt mondta: "Az élet igazságtalan. Nekem mindenből csak a legjobb jutott".