Он родился в Литве и был российским подданным, но в его семье царил культ борьбы за польскую независимость. Учился на медицинском факультете Харьковского университета, был исключен за участие в студенческих волнениях. Через два года арестован по обвинению в подготовке покушения на Александра III и провел несколько лет в сибирской ссылке.
Во время Первой мировой войны Пилсудский командовал польским легионом, сражавшимся на стороне Австро-Венгрии. Летом 1917 г. конфликтовал с оккупантами, был арестован и освобожден только в результате ноябрьской революции в Германии. В 1918 г. провозглашен руководителем государства и фактически оставался им до самой смерти. Формально же первый маршал независимой Польши управлял ею до 1922 г., до выборов первого президента
В 1921 г. была принята конституция республики. В преамбуле говорилось, что освобожденная Польша будет демократическим государством, а ее граждане — свободными людьми. Но эти декларации осуществить не удалось. Слабое правительство, межпартийная борьба привели к тому, что в 1926 г. Пилсудский совершил военный переворот и установил так называемый санационный (санация — оздоровление) режим, провозгласив очищение власти от партийных пристрастий и коррупции. Дело кончилось ограничением власти сейма, сворачиванием деятельности оппозиции, а потом и арестом ее руководителей.
Не лучшая судьба ожидала и новую конституцию 1935 г. Она усилила власть президента, избираемого всенародным голосованием на семь лет. Маршал пережил ее всего на три недели. Он умирал уверенный, что оставляет Польшу в безопасности, имеющей все необходимое для стабильного развития. Договоры с Берлином и Москвой, новая конституция, сильный офицерский корпус… Маршал не мог знать, что через несколько лет ничего этого уже не будет.
Умер Пилсудский 12 мая 1935 г. в Бельведере. В завещании просил похоронить его на краковском Вавеле, а сердце — вместе с матерью в Вильно.