Dzimis saimnieka ģimenē kā 12 bērns ģimenē. No 1888. gada pavasara mācījās Sēļu pagasta skolā, no 1890. gada rudens – Valtenberģu (tagad Mazsalaca) draudzes skolā, pēc tam 1895.–1897. gadā – nepilnus trīs gadus Baltijas skolotāju seminārā Kuldīgā (nav beidzis, izstājās slimības un konflikta dēļ ar semināra vadību). 1897. gadā iestājās un 1899. gadā beidza mērnieku taksatoru skolu Gorkos, Mogiļevas guberņā.

1913. gadā nodibināja ģimeni ar ukrainieti Varvaru Fedčenko.

Mācību laika aizsāka rakstīt dzeju un prozu. Savvaļnieks obligātajā karadienestā Krievijas armijā (1900–1901), dienēja 41. artilērijas brigādē Vitebskā, atvaļināts pēc vieglās artilērijas rezerves virsnieka pārbaudījuma nokārtošanas un 01.1902. paaugstināts par praporščiku. Neilgu laiku dzīvoja tēva mājās, pēc tam strādāja par mērnieku Minskas guberņā, Baltkrievijā. Sākoties Krievijas–Japānas karam, 1904. gadā P. Zoltu mobilizēja armijā, praporščiks 40. pārvietojamajā artilērijas parkā, piedalījās kaujās ar Japānas armiju, brigādes komandiera adjutants, baterijas komandieris.

Pēc kara nobeiguma 1906. gadā tika atvaļināts rezervē. Strādāja lauku darbus tēva mājās, Harkivas guberņas triju apriņķu mērniecības darbu revidents Harkivā, Ukrainā (no 1907. gada). Pirmā pasaules kara sākumā 08.1914. tika mobilizēts armijā, iedalīts 79. artilērijas brigādē, piedalījās kaujās ar Osmaņu Impērijas (Turcijas) spēkiem Kaukāza frontē, pēc tam frontē Galīcijā un Karpatos pret Austroungārijas armiju, 1916.–1917. gadā Ziemeļu frontes Daugavas aizsardzības līnijā pret Vācijas armiju (Pļaviņu apkārtnē). Baterijas komandieris. Podporučiks (no 03.1916.), poručiks (no 05.1916.), štābkapteinis (no 10.1917.). Pēc armijas sabrukuma 1917. gada nogalē P. Zolts atgriezās tēva mājās un nodarbojās ar lauksaimniecības darbiem. 1918. gada nogalē, ienākot Sarkanajai armijai, devās uz Tallinu. Viņš atteicās no piedāvātā amata Igaunijas armijas artilērijā, un ar Latvijas pārstāvju Jāņa Ramaņa un Jorģa Zemitāna atbalstu 06.01.1919. kopā ar brāli Ādamu Zoltu (vēlāk Latvijas armijas virsleitnants) igauņu kuģī “Izabella” izbrauca uz Liepāju.

10.01.1919. P. Zolts ieradās Liepājā un 14.01.1919. brīvprātīgi iestājās Latvijas Pagaidu valdības bruņoto spēku Atsevišķajā (Studentu) rotā (kapteinis), vada komandieris. No Liepājas jaunformējamo spēku Inženieru-sapieru rotas četriem kaujas vadiem izveidotās 2. rotas komandieris 1. Latviešu atsevišķās brigādes 3. Atsevišķajā (Studentu) bataljonā frontē (31.03.1919.). Piedalījās kaujās ar Padomju Latvijas armiju. Kopā ar vēl četriem savas rotas karavīriem krita nevienlīdzīgā kaujā, izbeidzoties atbilstošām patronām un vadot karavīrus durkļu prettriecienā visu dienu ilgušā kaujā (rota noturēja pozīcijas pret vairākkārtēju pārspēku – Padomju Latvijas armijas 1. strēlnieku pulka 1. bataljonu), tādējādi nepieļaujot frontes pārrāvumu un nodrošinot izejas pozīciju noturēšanu pirms uzbrukuma Rīgai.

P. Zolts ir viens no leģendārākajiem Latvijas Neatkarības kara virsniekiem, kura pēdējā kauja uzskatāma par vienu no izteiktākajiem piemēriem Latvijā notiekošās karadarbības nežēlībai, ko izraisa iedzīvotāju politiskā polarizācija 1919. gada pirmajā pusē. Nebūdams profesionāls virsnieks, P. Zolts prasmīgi komandēja savu rotu, panākot karavīru uzticēšanos un saliedētību kaujas apstākļos un tādējādi nodrošinot pozīciju noturēšanu, pēc nāves kļūdams par vienu no Latvijas Neatkarības kara un nācijas neatkarības gribas simboliem.

Par nopelniem Krievijas–Japānas kara kaujās P. Zolts apbalvots ar Krievijas Svētā Staņislava ordeni (poļu Order Świętego Stanisława, krievu Императорский и Царский Орден Святого Станислава), III šķira (ar šķēpiem), ar Svētās Annas ordeni (Императорский орден Святой Анны), IV šķira, par Pirmā pasaules kara kaujās parādīto varonību – ar Svētā Staņislava ordeni, II šķira (ar šķēpiem), Svētās Annas ordeni, II, III šķira (abi ar šķēpiem). Par Neatkarības kara laikā 18.05.1919. veikto varoņdarbu apbalvots ar Lāčplēša Kara ordeni, III šķira (pēc nāves).

Latvijas Republikā starpkaru posmā P. Zolta piemiņa tika godināta regulāri valsts, armijas un pašvaldību līmenī. Atklāts piemineklis Mazsalacas kapos, Kaugurciemā 18.05.1919. Kaujas vietā 1934. gadā atklāts piemineklis (1948. gadā nopostīts, 1989. gadā atjaunots). Pie pieminekļa regulāri notiek atceres pasākumi. P. Zolta vārdā nosaukta iela Jūrmalā, Kauguros. Piemiņas pasākumi notiek arī pie P. Zolta kapa pieminekļa Mazsalacas kapos.

P. Zolta tēls atspoguļots daiļliteratūrā, piemēram Līgotņu Jēkaba balādē “Vectēva stāsts mazdēlam” (1936), Valda Rūjas grāmatā “Kas to Rīgu dimdināja” (2000) un citur.