Nozīmīgākie darbi J. Širmaņa pirmie literārie darbi ir reālpsiholoģiski stāsti, kuros darbojas zēni. Tematikas ziņā rakstnieks šajos darbos līdzās citu latviešu autoru jau agrāk tēlotai lauku bērna piedzīvojumu un pārdzīvojumu pasaulei izvērsis tolaik latviešu bērnu literatūrā mazāk aplūkoto (Rīgas zēni) vai pat gluži jauno (bērnu patversmes) vidi. 1936. gadā tika izdots J. Širmaņa pirmais lielais stāsts “Kapteinis Lāčaķepa”, kurā stāstīts par patversmes zēnu, kam citi puikas devuši šādu iesauku. Tai sekoja citas īsprozas grāmatas – “Jūras zaķi” un “Noslēpumaini raksti” (abas 1937. gadā), “Vilki” un “Draugi” (abas 1938. gadā), “Lielās pasaules sākums” (1939). Jauno lasītāju neviltotu atzinību ieguva “Dadžu Juris” (1941). Šajās grāmatās darbojas galvenokārt pusaudži ar sarežģītiem likteņiem, nereti bāreņi, kuru raksturs nobriest saskarsmē ar dažādām dzīves grūtībām. Materiālu autors guva personiskā darba pieredzē, un viens no stāstu tēliem nereti ir iejūtīgs, ar teicamu pusaudžu psiholoģijas izpratni apveltīts pedagogs. Stāstījumā daudz konkrētības, tāpēc pozitīvā pamatievirze nekļūst māksloti didaktiska. Šai tēmai piederas arī trimdā sarakstītās grāmatas – “Pūpoliņš” (1968), stāsts par māsu un diviem brāļiem “Roze un dadzīši” (1975).
1943. gadā izdotā grāmata “Pīkstīte” ievada otru J. Širmaņa tēmu vai varoņu loku – runājošie, ar cilvēciskām īpašībām apveltītie dzīvnieki un putni; varētu teikt, pasakas no Latvijas dzīvās dabas pasaules. Grāmata par balto pelīti Pīkstīti tapa, meitai Marutai vakaros stāstot pasakas; virknējās viens, otrs stāsts ap Pīkstīti un viņas piedzīvojumiem. Šī grāmata bērniem daudzās paaudzēs kļuvusi ļoti tuva; valoda un izteiksme – rotaļīga un viegla. Šajā literāro darbu grupā rakstnieks attālinās no cilvēku pasaules un priekšplānā nonāk dzīvā daba.
Pēc Pīkstītes piedzīvojumiem tapa populārākais J. Širmaņa darbu cikls "Kriksis" – “Kriksis” (1947), “Kriksis Mežmājā” (1949), “Kriksis trimdā” (1952) un “Kriksis un Tomiņš Amerikā” (1955), kur atklājas suņa Krikša piedzīvojumi lauku sētā, Latvijas mežā, plašs Latvijas mājdzīvnieku, zvēru un putnu loks, attiecības. Šajos vēstījumos mazais lasītājs iepazīstas ar dzīvajām radībām, kas Latvijas laukā, mežā, gaisā un pat ūdenī parāda savu iedabu un dzīvesveidu. Taču pakāpeniski ar katru jaunu ciklu rakstnieks paplašina stāstījuma ģeogrāfiju (prom no laukiem uz Rīgu, Zviedriju, Vāciju, Ameriku), cilvēku tautību (krievs, vācietis, zviedrs, amerikānis), citu kontinentu (Amerika) dabas ainavu, tradīcijas, dzīvesveidu, vērtības un tamlīdzīgi. Šajā piedzīvojumu virknējumu ciklā savijas reālais ar fantastisko, spriegas epizodes, dēkainība, pārbaudījumi utt.; aprakstīti arī dramatiski Latvijas vēstures notikumi – Otrais pasaules karš, bēgļu gaitas, trimda –, padziļinot izpratni par cilvēku likteņiem, turklāt to visu pieredz arī suns Kriksis.
1956. gadā J. Širmanis izglītojošajā grāmatā “Tincis” ar runča Tinča palīdzību jaunos lasītājus iepazīstina ar Latvijas ģeogrāfiju. Šī grāmata noderēja kā palīdzlīdzeklis latviešu trimdas skolās. Šī laika darbos mazāk bija pilsētvides aprakstu, vairāk dominēja daba. Darbiem raksturīgs raits fabulas veidojums, daudz notikumu un atjautīgu situāciju, aktīva darbība, dažādi un saistoši raksturi, saglabājot ētiskas audzināšanas akcentus.
1948. gadā Vācijā izdotā J. Širmaņa grāmata “Pasakas” iezīmē sākumu vēl vienam rakstnieka tematiskajam lokam – literārajām pasakām, kuru centrā galvenokārt aplūkota vai aktualizēta kāda ētiska problēma. Šo grāmatu kritiķis Jānis Rudzītis nodēvēja par tikumu pasakām. Literārās pasakas J. Širmanis turpināja rakstīt arī Amerikā, kad viņu nodarbināja galvenokārt ikdienišķas, sadzīviskas problēmas un mīklu minēšana. Tās bija mierīgākas, ne tik spriegas un aizrautīgas darbībā; darbojās gan cilvēki, gan dzīvnieki, gan nedzīvi priekšmeti (un šī aspekta dēļ J. Širmanis salīdzināts ar dāņu pasaku meistaru Hansu Kristianu Andersenu (Hans Christian Andersen)), bet katrā pasakā rakstnieks paslēpis kādu dziļāku domu, rosinot vielu pārrunām un pārdomām mājā un skolā.
Vēlākajos sacerējumos J. Širmanis nereti tēloja mītnes zemes realitāti, aplūkojot bērniem pazīstamas sadzīves parādības, izmantojot arī zinātniskās fantastikas elementus. Šajā darbu grupā iekļaujas vairākas grāmatas: “Alberta Cilpas piedzīvojumi” (1960), “Vakara viesi” (1961), Lieldienu zaķu piedzīvojumu grāmata “Ģelzis un Misiņš” (1964), “Brīnumu pasaule” (1966), “Lielmeža pasakas” (1973), kurā ietverta divdesmit viena pasaka, taču visu darbību vieta ir Lielmežs, galvenie varoņi – rūķi Klāvs, Mārcis un Kristaps, dažādi Lielmeža zvēri un putni, kā arī zaķi, vilki, lapsas, vāveres, pūces un citi. Zvēri un cilvēki darbojas grāmatā “Brīnumi un brīnumiņi” (1978), lācēni – grāmatā “Laiža un Miegulis” (1979), trīsdesmit septiņas pasakas ietvertas grāmatā “Velns ar savējiem” (1981), “Mana pasaule” (1982), “Tralla Garezerā” (1987), “Slavenais Krikums un citas pasakas” (1988), “Daugavieši” (1989), “Paziņas” (1991). Savukārt tēlojumu grāmatā “Gaujas vīri” (1957) J. Širmanis gribēja atgriezties Latvijā un pakavēties kādu atmiņu notikumos.
Savrup šiem trim tēmu lokiem paliek 1983. gadā izdotais zinātniskās fantastikas (fikcijas) romāns “Zilā kalna puisis”, kur zilā kalna puisis ir bijušais latviešu leģionārs Amerikā. Šai fantastiskajai ievirzei pieder arī romāns “Alberts, Loreta un bioniskais” (1987). Šāda tematiskā ievirze bija novitāte latviešu bērnu literatūrā.