Dzimis trūcīgā ebreju amatnieka Josifa Jakuba daudzbērnu ģimenē. Z. Jakuba tēvs bija dažādu amatu meistars, bet visvairāk viņam nācās remontēt šujmašīnas, jo drēbnieka profesija bija viena no populārākajām nodarbēm ebreju vidū. Viņš laboja pulksteņus, plītis, mašīnas macas cepšanai, savā mājā iekārtoja ķīmisko tīrītavu un krāsotavu. Zalmanam bija četri brāļi un māsas: Sāra (dzimusi 1921. gadā), Ābrams (dzimis 1923. gadā), Ella (dzimusi 1928. gadā), Iciks (dzimis 1931. gadā).

Z. Jakubs mācījās ebreju reliģiskajā skolā (pamatskolā) Tora Vdereh Erec. Šajā skolā parasti izglītību ieguva zēni no nabadzīgākām ģimenēm. Līdz ar vispārējiem priekšmetiem viņš skolā apguva jidišu, Toras (Vecās Derības) pamatus. Pēc pamatskolas 6. klases absolvēšanas Z. Jakubs turpināja izglītību ebreju amatniecības skolā – apguva trīs gadu kursu mēbeļu un galdniecības nodaļā.

Kādu laiku strādājis I. Taica galdniecības darbnīcā, pēc tam – I. Bdilas rotaļlietu darbnīcā, Z. Jakubs tomēr nekļuva par mēbeļu izgatavotāju. Viņu piesaistīja pilsētas vēstures izpēte. Latgales reģionā dzīvoja vairākas Jakubu paaudzes, kas acīmredzot noteica topošā novadpētnieka interesi par dzimtās pilsētas vēstures izpēti. 

Interese par Daugavpils vēsturi viņam radās jau 20. gs. 30. gadu beigās, kad tapa pirmās publikācijas vietējai presei. Z. Jakubs iepazinās ar pilsētā populāro rakstnieku un tulkotāju Samuilu Frīdlendu. Viņš ieteica topošajam pētniekam iepazīties ar vietējā rabīna Girša Ratnera arhīvu un strādāt tajā. Pēc S. Frīdlenda ieteikuma Z. Jakubs pētīja pieminekļus Vecās Forštates ebreju kapsētā. Darba mērķis bija noskaidrot, kad pilsētā parādījās pirmie ebreji.

Padomju okupācijas laikā, 1940. gadā, pirmās Z. Jakuba publikācijas parādījās Rīgas ebreju laikrakstā Kamf, žurnālā Ufboy. Šīs piezīmes bija veltītas izglītībai Daugavpilī. 21.06.1941., kara priekšvakarā, vietējais laikraksts “Latgaļskaja Pravda” (Латгальская правда) publicēja rakstu “Šoloma Aleihema piemiņas vakars”, kas bija parakstīts ar Z. Jakuba inciāļiem “Z. Y.-b.”.

1941. gadā, vācu okupācijas sākumā, daļa no Z. Jakuba ģimenes evakuējās uz Vidusāziju. Citi radinieki gāja bojā Daugavpils geto. 1942. gada janvārī Z. Jakubu iesauca Sarkanajā armijā. Viņš dienēja un piedalījās kaujās Sarkanās armijas latviešu strēlnieku (vēlāk 43. gvardes) divīzijas sastāvā. Kaujās Z. Jakubs trīs reizes tika ievainots. Atrodoties hospitālī, viņš turpināja žurnālista darbu. Sarkanās armijas okupētajā Vācijā Z. Jakubs bija mazpilsētas komandanta palīgs un tulks.

Padomju otrreizējās okupācijas laikā pēc demobilizācijas Z. Jakubs strādāja par pārstrādājamo materiālu piegādātāju. Šis darbs sniedza iespēju saskarties ar dažādām vēstures liecībām, kuras viņš mēdza nodot Daugavpils Mākslas un novadpētniecības muzejam.

Līdztekus pamatdarbam Z. Jakubs aktīvi nodarbojās ar novadpētniecību. Nebūdams profesionāls vēsturnieks, viņš vāca un apkopoja materiālus par dzimtās pilsētas vēsturi. 60 gadu laikā novadpētnieks publicēja gandrīz 600 rakstu, ziņojumu, piezīmju, stāstu un aprakstu par Daugavpili un tās vēsturi, kas publicēti arī ārpus Latvijas robežām. Z. Jakubs uzrakstījis lugu “Sacelšanās Sobiborā”.

Plašāku atpazīstamību Z. Jakubs ieguva kā apjomīgāku novadpētniecisku pētījumu autors: Даугавпилс в прошлом: публикации краеведа (1998; “Daugavpils pagātnē: novadpētnieka publikācijas”), Город Даугавпилс. Хронологический обзор, 1275–2001 (2002; “Daugavpils pilsēta. Hronoloģisks apskats, 1275–2001”). Tajos apkopoti pilsētas vēstures fakti ar komentāriem. Īpašu vietu Z. Jakuba publikāciju vidū ieņem viņa pētījumi par Daugavpils ebreju un Daugavpils geto vēsturi. Nozīmīgs faktoloģisks apkopojums ir viņa pētījums par Daugavpils geto “Tajās dienās. No Daugavpils geto vēstures”. Raksts saīsinātā veidā pirmo reizi tika publicēts 1987. gadā – Padomju Sociālistisko Republiku Savienības (PSRS) vienīgajā jidiša valodas žurnālā Sovetiš heimland (jidišā סאָוועטיש היימלאַנד). Materiālus par holokaustu Z. Jakubs sāka vākt uzreiz pēc kara. Padomju okupācijas laikā bija ļoti ierobežotas iespējas pētīt un publicēt pētījumus par holokaustu. Tomēr Z. Jakubs, aizbildinoties ar tuvinieku likteņu noskaidrošanu, aktīvi vāca holokaustā izdzīvojušo liecības. Pēc neatkarības atgūšanas šis darbs 1993. gadā iznāca krievu valodā.

Z. Jakubs nodarbojās arī ar filatēliju, spēlēja šahu un dambreti, piedalījās ebreju kopienas rīkotajos dambretes turnīros.

Z. Jakuba plašais novadpētnieka darbs aptvēra pilsētas vēsturi, arhitektūru, nozīmīgu pilsētas objektu vēstures izzināšanu un aprakstīšanu. Tieši pateicoties viņa populārzinātniskajai pētnieciskajai darbībai un publikācijām, plašākam cilvēku lokam kļuvuši zināmi daudzi pilsētas vēstures fakti, personas un notikumi.

Par nopelniem kaujās Otrajā pasaules karā Sarkanajā armijā viņš saņēmis vairākus apbalvojumus, arī Tēvijas kara I pakāpes ordeni, medaļu “Par drosmi” un citus. 

Par pašaizliedzīgo novadpētnieka darbību 2005. gadā Z. Jakubam piešķirts Goda daugavpilieša nosaukums. Novadpētniekam veltīta 5. grāmata “Ebreji Daugavpilī” (2011). 

08.05.2019. Daugavpils mākslas un novadpētniecības muzejā tika atklāta izstāde, kas veltīta Z. Jakuba 100 gadu jubilejai.