Az újkori olimpiai mozgalom atyja Párizsban született 1863. január 1-jén. Régi nemesi családból származott, éppen ezért hatalmas botrányt kavart, amikor úgy döntött, hogy tudós lesz, és nem katonaként vagy politikusként szolgálja hazáját. A Sorbonne-on művészetet, filológiát és jogtudományt tanult, de a fiatalok nevelésének ügye izgatta leginkább. Amerikában és Kanadában tett tanulmányútjain arra a következtetésre jutott, hogy a szellem nevelése mellett a test építésére is figyelmet kell fordítani. A test, a lélek és a szellem egységét hangoztatva 1880-ban megalapította a Nemzeti Liga a Testneveléséért elnevezésű szervezetet, 1888-ban sportpropaganda bizottságot hozott létre. Ő maga legjobban a rögbiért rajongott, így nem csoda, hogy az első francia bajnoki döntőn, a Racing Club de France és a Stade Francais összecsapásán 1892-ben ő fújta a sípot.
Az 1880-as években az archeológusoknak az ókori görög olimpiákkal kapcsolatos legújabb kutatásai hatására elhatározta, hogy újjáéleszti az olimpiai játékokat, miközben a kezdeményezéssel hazájának is dicsőséget akart szerezni. 1892. november 25-én Coubertin felhívást adott közre Párizsban az ókori olimpiai játékok feltámasztása érdekében: "Hadd küldjünk evezősöket, futókat, vívókat külföldre! Ez a jövő szabadkereskedelme! S amely napon ez a vén Európa hagyományává lesz, a béke ügye új, hatalmas támogatóra lel! Németország kiásta azt, ami még maradt a régi Olümpiából. A régi dicsőséget vajon miért ne állíthatná vissza Franciaország?"
A mozgalom szempontjából sorsdöntőnek bizonyuló tanácskozásra 1894. június 23-án került sor a párizsi Sorbonne-on: a világ minden tájáról érkező küldöttek Coubertin és a görög Demetriosz Vikelasz meggyőző érvelése nyomán megalapították a Nemzetközi Olimpiai Bizottságot, amelynek Vikelasz lett az elnöke, Coubertin pedig a főtitkára. (A tanácskozáson Magyarországot Kemény Ferenc - oktatásüggyel, testneveléssel és tankönyvírással foglalkozó szakember, később a magyar olimpiai mozgalom vezetője - képviselte.)
A frissen megalakult NOB 1896-ra Athénba tűzte ki az első újkori olimpiát, bár a francia báró inkább 1900-at és Párizst preferálta volna, mondván, hogy a világkiállítás részeként jóval szélesebb nyilvánosságot kapna az esemény.
Nagy feladat volt számára az olimpia görögországi megrendezése, a kezdeti anyagi nehézségeken egy Egyiptomban élő görög Krőzus segített. Végül 13 ország 295 sportolója állhatott rajthoz a kilenc sportág (atlétika, torna, birkózás, vívás, kerékpározás, lövészet, úszás, tenisz, súlyemelés) 43 versenyszámában. A sportesemény akkora siker lett, hogy a büszkeséggel teli görögök többé ki sem akarták engedni kezükből a rendezés jogát, amit viszont Coubertin nem fogadott el. Az olimpia után Vikelasz lemondott elnöki tisztéről, helyét Coubertin foglalta el.
Az 1900-as és 1904-es játékokat (Párizsban, illetve St. Louisban) elhomályosította a világkiállítás, Coubertinnek a frissen életre hívott mozgalom fenyegető elhalásával kellett szembesülnie. 1906-ban újabb játékokat szervezett Athénba, de ez hivatalosan nem számít a nyári játékok közé. 1908-ban Londonban találkozhattak ismét a sportolók, a nagy közönségsikert azonban az 1912-es stockholmi olimpia és azon belül is az öttusa megjelenése aratta. A svéd fővárosban jelent meg először a művészeti verseny is a báró ötlete nyomán: elképzelése szerint öt kategóriában - irodalomban, építészetben, szobrászatban, festészetben és zenében - lehetett versenyezni addig nem látott, sport témájú művekkel. Fel nem fedve magát a báró is nevezett G. Hohrod-M. Eschbach álnéven, és az Óda a sporthoz című verse első díjat is nyert - ám tény, hogy etikai balfogása miatt Coubertin sokat veszített tekintélyéből. (A művészeti olimpiák hét ötkarikás játékot éltek meg, majd Londonban, 1948-ban, csendesen kimúltak.)
A szintén Coubertin ötletére született öt kontinenst jelképező ötkarikás zászlót 1920-ban Antwerpenben használták először.
A második párizsi olimpiát (1924) még főnökként vezényelte le a báró, aztán lemondott a NOB elnöki tisztéről, majd pedagógiai világszövetséget alapított az unalmas hétköznapok elkerülésére. A béke és a nemzetek közötti összefogás szellemiségét hirdető báró Henri de Baillet-Latournak adta át az elnöki stafétabotot, azonban haláláig a testület tiszteletbeli elnöke maradt.
Élete utolsó éveiben nehéz körülmények között élt, így az 1936-os olimpia rendezési jogát elnyerő Berlin és Németország nevében Adolf Hitler 10 ezer birodalmi márka életjáradék folyósítását rendelte el számára.
Az idealizmusból valóságot építő Coubertin 1937. szeptember 2-án halt meg Genfben. Lausanne-ban temették el, de szívét Görögországban, Olympia romjainál helyezték végső nyugalomra. Nevét őrzi a Pierre de Coubertin-díj, amelyet minden esztendőben az év legsportszerűbb cselekedeteiért ítél oda a sportolóknak a Nemzetközi Fair Play Bizottság.