Dzimis galdnieka ģimenē. Mācījās Sausnējas pareizticīgo pagasta skolā un Sausnējas pareizticīgo draudzes skolā, no 1885. gada – Rīgas Pareizticīgo garīgajā skolā (beidza 1889. gadā) un Rīgas Pareizticīgo garīgajā seminārā (beidza 1895. gadā). 1895. gadā mēģināja iestāties Garīgajā akadēmijā Maskavā, taču neizturēja konkursu. Studēja tieslietas Tērbatas Universitātē (mūsdienās Tartu Universitāte, Tartu Ülikool; 1897–1905).

J. Zālītis jau mācību laikā seminārā aktīvi iesaistījies latviešu audzēkņu sabiedriskajā dzīvē, bija semināristu kora “Pērkons” diriģents. Pēc semināra pabeigšanas un pirms iestāšanās universitātē vienu gadu strādāja par sekretāru Rīgas Pareizticīgo garīgajā skolā (1896–1897). Zvērināta advokāta Jāņa Bērziņa palīgs Rīgā (no 1905. gada). Darbojās Rīgas Latviešu biedrībā, tās Zinību komisijā, līdzdarbojās biedrības sagatavotās Latviešu konversācijas vārdnīcas izveidošanā (Izdošanas komitejas vadītājs, Juridiskās nodaļas redaktors un daudzu juridisku šķirkļu autors), Rīgas Latviešu labdarības biedrībā bija Debesbraukšanas draudzes padomes loceklis, viens no aktīvākajiem 1907. gadā izveidotās Zvērinātu advokātu konsultācijas darbiniekiem (bezmaksas palīdzība mazturīgiem pilsoņiem). Rīgas apgabaltiesas zvērināts advokāts Rīgā (no 1910. gada). Guva plašu popularitāti, aizstāvot latviešu 1905. gada revolucionārus politiskās tiesas prāvās (dažās – kopā ar vēlāko Krievijas Pagaidu valdības vadītāju Aleksandru Kerenski, Александр Фёдорович Кeренский), kopā ar Voldemāru Zāmuelu un citiem darbojās neoficiālajā Rīgas liberālajā klubā.

1912. gadā no Rīgas 1. kūrijas J. Zālīti ievēlēja Krievijas 4. Valsts domē. Darbojās domē Pēterburgā (no 1914. gada Petrograda) līdz lielinieku apvērsumam 07.11.1917., bija domes Juridiskās komisijas loceklis, uzturēja aktīvus sakarus ar latviešu sabiedriski politiskajiem darbiniekiem Rīgā. Kopā ar otru latviešu deputātu Jāni Goldmani strādāja Valsts domē kā Progresīvā bloka dalībnieki. Piemēram, viņi iesniedza apspriešanai likumprojektu par ceļu uzturēšanas kārtības izmaiņām, bērnu apmācību latviešu un igauņu valodā tirdzniecības un zemkopības skolās; galvenais vadmotīvs bija cīņa pret vācbaltiešu privilēģijām Baltijas guberņās. Vienlaikus J. Zālītis izcēlās ar īpaši labvēlīgu nostāju pret Krievijas varu Baltijas guberņās, uzsverot savu un latviešu tautas patriotisma jūtas pret Krieviju. Saskaņā ar laikabiedru liecībām, J. Zālītis bija nesavtīgs latviešu interešu aizstāvis, taču par galveno nācijas ienaidnieku uzskatīja vācbaltiešu muižniecību un eliti kopumā.

Pirmā pasaules kara laikā 02.1916. J. Zālītis Valsts domē piedāvāja paplašināt Baltijas guberņu vietējo pašvaldību tiesības, pārveidojot tās par pārējā Krievijas teritorijā pastāvošajām zemstēm, kas netika realizēts, neraugoties uz ievērojamo atbalstu domē. Petrogradā, līdzdarbojies latviešu bēgļu apgādē, Latviešu bēgļu apgādāšanas centrālkomitejas loceklis (no 1915. gada), Lielkņazes Tatjanas Nikolajevnas (Великая Княжна Татьяна Николаевна) bēgļu palīdzības komitejas pārziņā esošo latviešu skolu kurators. 1915. gadā kopā ar J. Goldmani piedalījās latviešu strēlnieku bataljonu organizēšanā, Latviešu strēlnieku bataljonu organizācijas komitejas loceklis.

1916. gada beigās–1917. gada sākumā Lielkņaze Tatjana Nikolajevna J. Zālīti komandēja uz ārzemēm, kur Norvēģijā, Zviedrijā un Lielbritānijā viņš uzstājās ar vairākiem priekšlasījumiem par Latviju un latviešu tautas stāvokli, atbalstīja “Latviešu kara upuru pabalsta komitejas” izveidošanu Londonā, kā latviešu pārstāvis izvirzīja prasību pēc Latvijas autonomijas. Tādējādi, sākot ar 1916. gada beigām, J. Zālītis atbalstīja Latvijas autonomijas prasību, kas pēc Februāra revolūcijas kļuva par vienu no galvenajiem latviešu pilsoniskās elites mērķiem. 03.–11.1917. viņš kopā ar J. Goldmani lielā mērā vadīja minētās elites politisko darbību Krievijas Pagaidu valdības darbības laikā, bet pēc ievērojamas latviešu strēlnieku daļas paustā atbalsta lieliniekiem nosodīja šo soli.

24.03.1917. J. Zālītis kopā ar J. Goldmani piedalījās latviešu strēlnieku zvēresta došanas ceremonijā Pagaidu valdībai, savā runā aicināja turpināt cīņu līdz vāciešu padzīšanai un Latvijas autonomijas panākšanai, 05.1917. kopā ar Zigfrīdu Annu Meierovicu apsveica Latgales kongresu Rēzeknē, lielinieku sludināto brāļošanos frontē sauca par nodevību. 09.1917. pēc Rīgas krišanas intervijā Francijas presei uzsvēra latviešu autonomijas vēlmi utt. Pēc lielinieku apvērsuma 11.1917. ievērojama latviešu elites daļa sāka sludināt pilnīgas neatkarības prasību. J. Zālītis no paša sākuma piedalījās 29.11.1917. Valkā dibinātās Latviešu Pagaidu nacionālās padomes darbā kā Latvijas Radikāldemokrātiskās partijas Petrogradas nodaļas pārstāvis, viņu ievēlēja par valdes locekli. Padome otrajā sesijā Petrogradā 30.01.1918. pasludināja, ka Latvijai jābūt neatkarīgai, demokrātiskai republikai un J. Zālītis bija vienīgais no 24 sēdes dalībniekiem, kurš balsoja pret, joprojām aizstāvot autonomiju Krievijas sastāvā. Tomēr turpmāko norišu rezultātā (galvenokārt lielinieku režīma nostiprināšanās Padomju Krievijā) arī J. Zālīša uzskatos notika pavērsiens pilnīgas neatkarības virzienā. Vācu okupācijas laikā 1918. gadā viņš no Padomju Krievijas (Petrogradas) atgriezās Rīgā.

Latvijas Tautas padomes loceklis no Latvijas Radikāldemokrātiskās partijas saraksta (no 17.11.1918.), bija partijas centrālās komitejas priekšsēdētājs. Tautas padomes sēdē 18.11.1918. valsts proklamēšanas aktā savas partijas vārdā apsveica Tautas padomi un tās lēmumu. Darbojās Tautas padomes Finanšu un budžeta, Izmeklēšanas, Juridiskajā (priekšsēdētājs), Policijas lietu un Uzsaukumu izstrādāšanas komisijā. Pagaidu valdības apsardzības ministrs (no 06.12.1918.), turpināja ministra biedra Roberta Dambīša uzsākto bruņoto spēku un iestāžu veidošanas darbu. Strādāja Liepājā (no 01.1918.), smagos apstākļos, vācu iestādēm pretdarbojoties, organizējot mobilizāciju bruņotajos spēkos un citus pasākumus. Vairākkārt apmeklēja latviešu vienības frontē.

Pēc 16.04.1919. vācu apvērsuma J. Zālītis patvērās Priekulē, no 18.04. – Kalētu pagasta Laukmuižā, 05.1919. pārcēlās uz Jaunmuižu, no kurienes slepus tika nogādāts uz tvaikoņa “Saratov”, kur turpināja darbu valdības sastāvā. 06.–07.1919. uzstājās pret kompromisu ar vācu spēkiem pēc uzvaras Cēsu kaujās. 07.1919. valdības sastāvā J. Zālītis atkāpās no ministra amata, turpināja darbu Tautas padomē. Saasinoties situācijai ar Pāvela Bermonta (krievu Павел Рафаилович Бермондт-Авалов, vācu Pavel Bermondt-Avalov) spēkiem, 05.10.1919. J. Zālītis kā delegācijas vadītājs tika komandēts palīdzības meklējumos uz Polijas kontrolēto Viļņu, kur tikās ar Polijas valsts vadītāju Juzefu Pilsudski (Józef Klemens Piłsudski) un 11.10. piedalījās Viļņas Universitātes atklāšanā, bet 13.10. devās uz Kauņu, kur tikās ar Lietuvas valsts vadītājiem (kopā ar Z. A. Meierovicu, kurš pievienojās delegācijai, pārņemot tās vadību). Atgriezies Rīgā, turpināja aktīvi piedalīties visās Tautas padomes sēdēs (pēdējā 02.12.). J. Zālītis mira no plaušu karsoņa.

Galvenais J. Zālīša nopelns saistīts ar ieguldījumu latviešu strēlnieku bataljonu (vēlāk pulku) izveidošanu un darbību Pirmā pasaules kara laikā, turklāt šī iemesla dēļ viņš kopā ar J. Goldmani pieminēts visu Latvijā pastāvējušo politisko režīmu vēstures literatūrā. Ļoti nozīmīga un pat zināmā mērā izšķiroša bija J. Zālīša darbība Latvijas Neatkarības kara laikā 1918. gada novembrī–1919. gada vasarā, kad viņš kā pirmais apsardzības ministrs, neskatoties uz vācu iestāžu un karaspēka vienību pretestību, uzsāka latviešu bruņoto vienību formēšanu, pēc 16. aprīļa apvērsuma pakļaujot sevi arī dzīvības briesmām. Faktiski viens no retajiem ministriem, kurš pastāvīgi strādāja pie sava resora izveides, neatstājot Latviju šķietami bezcerīgā militāri politiskajā situācijā.

Par darbību apsardzības ministra amatā ļoti sarežģītā laika posmā apbalvots ar Lāčplēša Kara ordeni, III šķira (pēc nāves).

Pēc nāves izveidots J. Zālīša piemiņas fonds, kas pie nama Krišjāņa Barona ielā 15, kur J. Zālītis bija dzīvojis, atklāja piemiņas plāksni (pēc kara iznīcināta). 1934. gadā Stūrīša ielas posms no Struktora (tagad Struktoru) ielas līdz Tālivalža un Bajāru ielu satecei nosaukts par Zālīša ielu. Pēc kara nosaukums saglabāts, padomju okupācijas iestādēm neizprotot, ka iela nosaukta J. Zālīša vārdā (1987.–1994. gadā – Madlienas iela, pēc tam nosaukums atjaunots).