Dzimis saimnieka ģimenē. Mācījās Lugažu draudzes skolā, Valkas pilsētas skolā un Nelsona reālskolā Valkā. 1899. gadā iestājās Viļņas kājnieku junkurskolā (jaunākais potupejjunkurs – junkuru rotas unteroficieris; beidza skolu 1901. gadā).

1898. gadā P. Radziņš kā savvaļnieks iestājās Krievijas armijā, 112. kājnieku pulkā Kalvarijā pie Kauņas (podraporščiks); 1901. gadā sāka dienestu 113. kājnieku pulkā, bet jau pēc dažiem mēnešiem tika paaugstināts par virsnieku, pārvietots uz 24. kājnieku pulku Ostrovā, Lomžas guberņā, Polijā. Podporučiks (no 12.1901.), poručiks (no 09.1905.), štābkapteinis (no 1909. gada), kapteinis (no 1910. gada), apakšpulkvedis (no 12.1915.), pulkvedis (no 08.1917.). No 03.1905. piedalījās Krievijas–Japānas karā kā 10. Sibīrijas strēlnieku pulka rotas komandieris. Pēc kara atgriezās 24. kājnieku pulkā, podpraporščiku skolas pārzinis.

1907. gadā iestājās Ģenerālštāba akadēmijā Pēterburgā (beidza 1910. gadā ar izcilību); komandēšanas cenza iegūšanai 32. kājnieku pulka rotas komandieris Varšavā. No 1912. gada ieņēma Ģenerālštāba virsniekam atbilstošus amatus 38. divīzijas štābā Brestļitovskā.

Sākoties Pirmajam pasaules karam, 1914. gada vasarā uzreiz iesaistīts kaujās Polijā, no 05.1915. Novogeorgijevskas (Modļinas) cietokšņa štāba vecākais adjutants (pēc cietokšņa aplenkšanas lidmašīnā izbēdzis no tā uz Belostoku). 08.1915. piekomandēts Rietumu frontes virspavēlnieka štābam (sevišķu uzdevumu virsnieks). Sibīrijas divīzijas štāba priekšnieka vietas izpildītājs (no 10.1915.), 61. divīzijas štāba priekšnieka vietas izpildītājs Baltkrievijā (no 02.1916.), pēc tam – Rumānijas frontē. 02.1918. Besarābijā izformēja pakļautībā esošās daļas un devās uz Rumāniju.

Virsnieks Ukrainas hetmaņa armijā (03.–11.1918.); Ģenerālštāba Organizācijas-apmācības daļas priekšnieks. Ukrainas Tautas Republikas armijas Ģenerālštāba priekšnieka palīgs (no 12.1918.). Pēc armijas sakāves 09.1919. no Kameņecas-Podoļskas devās uz Varšavu, kur 10.1919. satikās ar Latvijas ārlietu ministra Zigfrīda Annas Meierovica vadīto Latvijas delegāciju un atgriezās Latvijā.

Kauju laikā ar Pāvela Bermonta (Павел Рафалович Бермонт-Авалов) spēkiem 27.10.1919. Rīgā iestājās Latvijas armijā (pulkvedis); Armijas virspavēlnieka štāba priekšnieks. Izstrādāja un vadīja Bermonta spēku, pēc tam Sarkanās armijas sakaušanas plānu realizāciju. 1919. gada beigās–1920. gada sākumā vadīja sadarbību ar Polijas armiju Latgales atbrīvošanā. Ģenerālis (no 02.1920.). 1920. gada vasarā un rudenī P. Radziņš tika iesaistīts arī robežkonflikta noregulējumā ar Lietuvu, kā arī attiecību noregulējumā ar Poliju pēc tam, kad ģenerāļa Lucjana Žeļigovska (Lucjan Mieczysław Rafał Żeligowski) poļu karaspēks bija ieņēmis Viļņu.

29.10.1920. atvaļināts no armijas “pēc paša vēlēšanās” (patiesībā P. Radziņam tika pārmesta pārlieka labvēlība pret Latvijā esošo pretlieliniecisko krievu virsnieku politisko darbību).

Rakstījis par kara vēstures un kara teorijas jautājumiem; bija lektors Kara skolā, Aviācijas skolā, Virsnieku kursos. Lāčplēša Kara ordeņa domes loceklis, tās sekretārs. 20. gadu 1. pusē iecelts par radikālā Latvju Nacionālā kluba “virsaiti” (goda amats). 02.1924.–04.1928. armijas komandieris (amatu bija spiests atstāt sakarā ar Latvijas Sociāldemokrātiskās Strādnieku partijas pārmetumiem par saistību ar dažiem virsniekiem, kas šķietami gatavojuši valsts apvērsumu); Virsnieku akadēmisko kursu priekšnieks (no 04.1928.). Bijis studentu korporācijas “Tervetia” goda filistrs.

Būdams armijas komandiera amatā, īpašu vērību P. Radziņš, apzinādamies modernā kara prasības, pievērsa Latvijas armijas tehnisko daļu bruņojuma modernizēšanai finansiālo iespēju robežās. 1925. gadā viņš uzsāka kara aviācijas attīstības programmu ar mērķi palielināt kaujas lidmašīnu skaitu līdz 100 (no viņa neatkarīgu apstākļu dēļ to izdevās realizēt tikai daļēji). Turklāt 20. gadu vidū valdība piešķīra līdzekļus mīnu traleru un zemūdeņu iepirkšanai Francijā, izveidojot Krastu aizsardzības eskadru.

Priekštecis un pēctecis Mārtiņš Peniķis.

Par nopelniem karā ar Japānu un Pirmajā pasaules karā apbalvots ar Krievijas Svētā Jura ordeni (Императорский Военный орден Святого Великомученика и Победоносца Георгия; Орден Святого Георгия), IV šķira, vēl sešiem ordeņiem, piemēram, Svētā Staņislava ordeni (Императорский и Царский Орден Святого Станислава), II, III šķira, Svētās Annas ordeni (Императорский орден Святой Анны), II, III, IV šķira, Latvijas Lāčplēša Kara ordeni, II un III šķira, Triju Zvaigžņu ordeni, I šķira, Francijas, Igaunijas, Polijas, Somijas, Zviedrijas ordeņiem.

2017. gadā pie Rīgas pils atklāta piemiņas plāksne un Krasta ielas posms Rīgā pārdēvēts par Ģenerāļa Radziņa krastmalu.