Przyszły generał był absolwentem wielu austriackich szkół wojskowych na czele z prestiżową, przeznaczoną dla elity korpusu oficerskiego, Szkołą Wojenną w Wiedniu. Po jej ukończeniu w 1891 r. piastował funkcje sztabowe w Mariborze i Budapeszcie.

Od października 1896 r. był attaché wojskowym przy poselstwie austriackim w Bukareszcie. Stolicę Rumunii opuścił w 1907 r. i powrócił do Galicji, do Stanisławowa. Do wybuchu wojny poświęcał się pracy wojskowej i społecznej, a w 1913 r. jako jedyny z wyższych polskich oficerów armii austriackiej nawiązał współpracę z ruchem strzeleckim, często ratując go dzięki swym koneksjom z różnych opresji. W Cesarskiej i Królewskiej Armii dosłużył się stopnia marszałka polnego porucznika, w odradzającym się Wojsku Polskim został generałem broni, szefem Sztabu Generalnego WP przy Radzie Regencyjnej i od 1918 r. zajął się organizacją armii polskiej, tworząc zręby jej marynarki wojennej, kawalerii i straży granicznej. Opracowane wtedy „schemat organizacji polskich władz wojskowych” i „Tymczasowa ustawa o powszechnym obowiązku służby wojskowej” odegrały ważną rolę w toczonych później wojnach o granice.

Po objęciu władzy przez Józefa Piłsudskiego Rozwadowski złożył urząd w związku z różnicą zdań między nim a Naczelnikiem Państwa. Rozwadowski został wówczas obrońcą oblężonego Lwowa jako Naczelny Dowódca Wojsk Polskich w Galicji Wschodniej. W kwietniu 1919 r. mianowano go szefem Polskiej Misji Wojskowej w Paryżu. W stolicy Francji skutecznie zabiegał o polskie interesy w Galicji Wschodniej, przyczynił się do stworzenia u boku armii polskiej Legionu Amerykańskiego, uzyskał dostawy broni dla wojsk polskich i negocjował podstawy przyszłego sojuszu z Rumunią. Po zakończeniu paryskiej misji wrócił do Polski. W szczytowym momencie zagrożenia bolszewickiego został szefem Sztabu Generalnego WP. W czasie bitwy warszawskiej 1920 r. Rozwadowski był autorem planu kontrnatarcia oraz koncepcji bitwy, której został głównym koordynatorem. Przegrupowanie wojsk polskich było zadaniem niebywale trudnym, ale zostało ono perfekcyjnie wykonane przez elitarne jednostki 1. i 3. Dywizji Piechoty Legionów. Po zakończeniu wojny z bolszewikami objął funkcję Generalnego Inspektora Jazdy i Generalnego Inspektora Kawalerii WP. Popadł jednak w konflikt z obozem piłsudczykowskim. Podczas zamachu majowego w 1926 r., jako legalista, stanął po stronie sił wiernych rządowi, obejmując dowództwo obrony Warszawy. Na skutek dysproporcji sił, strajku kolejarzy utrudniających dotarcie pułków wielkopolskich i pomorskich z odsieczą, a przede wszystkim w obawie przed wybuchem wojny domowej, prezydent Stanisław Wojciechowski złożył urząd i rozkazał zaprzestania bratobójczych walk. Rozwadowski wraz z kilkoma innymi oficerami został internowany. Wraz z innymi generałami Rozwadowski został oskarżony o przestępstwa kryminalne i uwięziony w Wojskowym Więzieniu Śledczym nr I w Warszawie, a następnie na Antokolu w Wilnie. Z więzienia został zwolniony dopiero w maju 1927 r. Zmarł 18 października 1928 r. Pochowano go zgodnie z jego wolą na Cmentarzu Obrońców Lwowa.