Laikā, kad J. Šternbergs dzīvoja Latvijā, viņš darbojās kā akadēmisks reālists – zīmēja metus pastmarkām, diplomiem, liecībām, loterijas biļetēm, karogiem; viņš ir starpkaru Latvijas pēdējās Latvijas Bankas izlaistās naudas zīmes – 100 latu – meta (1939) autors.
Mākslinieks arī darināja reprezentatīvus sabiedrisko darbinieku (starp tiem visvairāk Kārļa Ulmaņa) un kultūras darbinieku portretus, ekslibrus, plakātus, veidoja valsts un gadskārtu svētku lappuses laikrakstam “Brīvā Zeme” (1926., 1928–1940), vākus žurnāliem “Aizsargs” (1928, 1929, 1931) un “Mūsu Laikmets” (1930–1933). Radīja vairāk nekā piecdesmit grāmatu vāku un ilustrāciju gan starpkaru Latvijā (galvenokārt apgāda izdevniecības “Valters un Rapa” bērnu un mācību grāmatām), gan pēc Otrā pasaules kara trimdā. Veidoja estampus ar senlatvisku, zemniecisku un ainavu tematiku, nereti uzsverot gaismēnu kontrastus. J. Šternbergs izstādēs piedalījās reti.
Profesionālās darbības sākumā viņš bija mākslinieks un gravieris Valstspapīru spiestuvē (1924–1941). No 1941. gada līdz 1944. gadam J. Šternbergs strādāja par LMA Grafikas meistardarbnīcas vadītāja pienākumu izpildītāju un docentu. 1944. gadā viņš devās bēgļu gaitās uz Vāciju.
Fišbahas pārvietoto personu nometnē J. Šternbergs strādāja par grafiskās mākslas studijas vadītāju (1946–1949) un pasniedzēju ASV armijas Nirnbergas speciālajā izglītības centrā (1948–1949, Nuremberg Special Army Education Center). Tur J. Šternbergu satika Kentuki Universitātes (University of Kentucky) prezidents Hermans Donovans (Herman Donovan), kurš viņu uzaicināja strādāt par pasniedzēju. Kentuki Universitātes Mākslas departamenta Mākslas un zinātņu koledžā par pasniedzēju viņš strādāja no 1949. līdz 1970. gadam, bija docents no 1967. gada, kā arī Grafikas darbnīcas vadītājs. J. Šternbergs arī bija Kentuki Mākslinieku un amatnieku ģildes (Kentucky Guild of Artists and Craftsmen) un Leksingtonas Mākslas līgas (Lexington Art League) biedrs.
Pavērsiens J. Šternberga mākslinieciskajā darbībā bija 20. gs. 60. gados, kad viņš, eksperimentējot ar grafikas tehnikām (dobspiedi un sietspiedi), kļuva radošāks un atraisītāks savā mākslinieciskajā izpausmē. 1965. gadā mākslinieks radīja oriģinālos “smilšu rakstus”, tiem izmantojot graudainus materiālus, no kuriem iecienītākais bija alumīnija oksīda smiltis, kuras apstrādāja ar dažādiem rīkiem, piemēram, irbuli, plāksnīti, zāģa asmeni, ķemmi, suku, paletes nazi, ķēdīti, trafaretiem. Izmantojot daudzveidīgas, visbiežāk kaligrāfiskas līnijas un dažādas, nereti “skulpturālas”, faktūras mākslinieks veidoja galvenokārt abstraktus, nereti ornamentam tuvus darbus, kas līdzinājās fosilijām, mežģīnēm, inku rotājumiem un latviešu rakstiem, bieži nelielā laukumā radot plašuma iespaidu. 20. gs. 70. gadu vidū “smilšu rakstus” pārnesa sietspiedēs, ko pats J. Šternberga nodēvēja par “sietiņa iespiedumu”.
