Vēsturiskā attīstība Jēkabpils muzeja veidošanās saistīta ar Jēkabpils Valsts vidusskolu (kopš 1996. gada Jēkabpils Valsts ģimnāzija), kurā kopš 1920. gada 8. marta skolotāja Arnolda Štokmaņa vadībā darbojās novadpētniecības pulciņš, ko toreiz dēvēja par dzimtenes senatnes pētīšanas pulciņu.
Rokot tranšejas un ierīkojot blindāžas, Pirmā pasaules kara laikā daudzas senās apbedījumu vietas bija izpostītas. A. Štokmanis uzskatīja, ka nav pieļaujama šo senlietu pazušana, tāpēc par vienu no pirmajām un nozīmīgākajām kolekcijām kļuva arheoloģijas priekšmeti. Priekšmetus sākotnēji eksponēja vēstures kabinetā, bet, pieaugot to skaitam, blakus skolai esošajā namā izveidoja skolas muzeju, ko pāris reizes nedēļā atvēra publikai. Līdzekļus, kurus ieguva no nelielās ieejas maksas, izmantoja muzeja vajadzībām. Līdzekļus ieguva, arī novadpētniecības pulciņa biedriem iestudējot izrādes par vēsturiskām tēmām.
1930. gadā Jēkabpils Valsts vidusskolas muzejam tika nodota divstāvu ēka Brīvības ielā 171. Ēka celta 1820. gadā Valsts bankas vajadzībām, bet pēc jaunas bankas ēkas uzcelšanas tika nodota skolai, un sākumā tajā tika izvietotas arī vairākas klases.
Padomju okupācijas laikā 1941. gada 1. janvārī muzeju atdalīja no skolas, tam piešķīra algotus darbiniekus ‒ direktoru un apkopēju. Pirmo reizi muzeja vēsturē tika piešķirti līdzekļi eksponātu iegādei. Tika paredzēti līdzekļi arī citām muzeja vajadzībām. Muzejs kļuva par Valsts vēsturiskā muzeja filiāli.
Otrā pasaules kara laikā muzejs apmeklētājiem bija slēgts. Darbiniekiem bija izdevies pasargāt priekšmetus no pazušanas. Padomju otrreizējās okupācijas sākumā 1944. gada rudenī tika sākta muzeja atjaunošana, un 1945. gada 15. janvārī muzejs vēra durvis apmeklētājiem.
1949. gada sākumā muzejs pārņēma savā pārziņā kara laikā daļēji izcirsto un nolaisto parku Jēkabpilī. Parku bija iekopis kādreizējā alus brūža īpašnieks Aleksandrs Hikšteins. Muzejam tika piešķirts arī neliels zemes gabals blakus parkam. Tajā tika ierīkoti izmēģinājuma lauciņi, kuros tika audzētas maz pazīstamas labības un lopbarības kultūras.
1949. gadā A. Štokmanis tika atbrīvots no skolotāja darba. Muzejs kļuva par viņa vienīgo darba vietu.
1950. gadā Latvijas Padomju Sociālistiskās Republikas (PSR) Ministru padomes Kultūrizglītības iestāžu komiteja par Jēkabpils novadpētniecības muzeja pētniecības apvidu noteica Aknīstes, Jēkabpils, Krustpils, Neretas un Pļaviņu teritoriju.
1952. gadā muzeja pārņemtajā parka teritorijā sāka veidot muzeja brīvdabas nodaļu. Pirmā ēka, kas 1952. gadā pārvesta uz brīvdabas nodaļu, ir klēts no Aknīstes apkārtnes Skārdupēm. 1953. gadā pārvesta dzīvojamā māja no Biržu apkārtnes Miķelāniem un klēts no Kalna ciema Pilskalnu mājām, kas tika uzstādīta 1955. gadā. 1955. gadā pārvestas dzirnavas, divu gadu laikā tās tika restaurētas. 1957. gadā pārvesta pirts no Kalna ciema Adumāniem un kalve no Vārnavas ciema, bet 1958. gadā no Salas ciema Boķu dzirnavu apkārtnes pārvesta rija.
A. Štokmanis uzskatīja, ka tieši brīvdabas vidē ir jāeksponē seno darba rīku un sadzīves priekšmetu krājumus. A. Štokmaņa iniciatīva bija izveidot Jēkabpils novadpētniecības un mākslas muzeja filiāli Koknesē. Tā bija izvietota nelielā paviljonā Kokneses parka teritorijā, Daugavas krastā. To atklāja 1955. gada jūnijā. Būvējot Pļaviņu hidroelektrostaciju, filiāle bija jālikvidē, jo atradās appludināmajā zonā.
1956. gadā muzeja vajadzībām tiek nodots 1783. gadā celtais uniātu klosteris (vēlāk pareizticīgo draudzes baznīca), kas atradās blakus muzeja ēkai Brīvības ielā. Muzejs tajā ierīkoja mākslas nodaļu.
1959. gadā pēc A. Štokmaņa iniciatīvas par Jēkabpils novadpētniecības muzeja filiāli kļuva Raiņa dzimtās mājas – Tadenava. 1966. gadā Tadenava pārtapa par toreizējā Raiņa Literatūras un mākslas muzeja filiāli.
1981. gada 20. aprīlī muzejs atklāja mākslinieku Skulmju memoriālo māju Jēkabpilī, Brīvības ielā 26. Tajā iekārtota neliela ekspozīcija un tiek rīkotas dažādas izstādes. 1983. gada 7. septembrī pēc ilgāka remonta tika atvēra muzeja izstāžu zāle Svētā Nikolaja baznīcā Jēkabpilī. Pēc 1990. gada šīs ēkas atguva to likumīgie īpašnieki.
1994. gada 13. aprīlī Jēkabpils rajona Tautas deputātu padomes valde pieņēma lēmumu “Par Krustpils pils nodošanu muzeja valdījumā”. No 1944. gada līdz 1993. gada novembrim Krustpils pili un muižas ēkas aizņēma Padomju armijas 16. tāllidojumu izlūkošanas aviācijas pulks un 15. gaisa armijas centrālās noliktavas. Pašā pilī atradās virsnieku klubs, kalpu galā – armijas štāba darba kabineti. Līdz ar pils nodošanu muzejam tajā sākās izpētes, glābšanas un atjaunošanas darbi.
1996. gada 6. septembrī muzejs pārcēlās uz Krustpils pili. Lai tas varētu notikt, vispirms tika remontētas telpas krājuma izvietošanai, nelielas darba telpas un viena telpa izstāžu rīkošanai. Ilgu laiku muzejam nebija telpu pastāvīgajai ekspozīcijai. Paralēli pils atjaunošanas darbu organizēšanai muzejs mērķtiecīgi gatavoja ekspozīciju plānus un to dizaina projektus. Ar Eiropas Savienības projektu finansējumu 2010. gadā tika veikta Krustpils pils B korpusa atjaunošana un 2020. gadā pils A korpusa atjaunošana. Pils pirmajā stāvā tika ierīkota pilsētas vēstures pastāvīgā ekspozīcija, par kuru muzejs 2021. gadā saņēma Muzeju biedrības Gada balvu.
2022. gadā izmaiņas notika arī muzeja brīvdabas nodaļā “Sēļu sēta”. Tika uzcelta Amatu māja. Paplašinājās muzeja piedāvājums, un mainījās arī muzeja darba sezonālais raksturs. Tagad muzejs atvērts apmeklētājiem arī ziemas sezonā.
2023. gadā atjaunotajā Krustpils pils C korpusā ierīkota muižas virtuves ekspozīcija 2026.gadā bijušajā muižas smēdes ēkā atklāta ekspozīcija par Latgales artilērija pulku.