Sākot ar opusu nr. 1 – Klavieru sonāti, J. Vītola skaņdarbus sāka izdot krievu rūpnieka un mecenāta mūzikas apgāds Edition M. P. Belaieff, Leipzig. Gadu gaitā tika publicētas vēl apmēram 80 kompozīcijas – ar autora uzvārda rakstību Wihtol (tas atbilda vāciskajai, un toreiz vēl nenostabilizētajai latviešu ortogrāfijai, un J. Vītols pie šādas sava uzvārda rakstības (Wihtols) palika visu mūžu). Viņš kļuva pazīstams komponists Pēterburgas mūzikas aprindās, krievu komponistu Anatolija Ļadova (Анатолий Константинович Лядов) un Aleksandra Glazunova (Александp Константинович Глазунов) draugu, kā arī par akadēmisko mūziķu brālības jeb “Beļajeva pulciņa” (Беляевский кружок) dalībnieku. No tajā valdošā elitārā, pašpietiekamā akadēmisma sargāja viņa iesaistīšanās topošajā zaļoksnējā latviešu mūzikas dzīvē Rīgā, kas līdzās docētāja darbam kļuva par otro svarīgāko spēku atdeves lauku. Saplūšana ar dzimtenes latviešu sabiedrību izšķiroši notika III Vispārējos latviešu dziesmu svētkos (1888), kad, pēc J. Vītola vārdiem, “šie svētki mani ievadīja latvju nacionālās kustības verdošā centrā, kas mani ar neatvairāmu spēku ierāva man līdz tam vēl stipri pasvešajā pasaulē”. To ierosmē tapa J. Vītola simfoniskā poēma “Līgo svētki” ar folkloras tēmām (1889). Jurjānu Andrejs viņu iesaistīja folkloras ekspedīcijā (1891), toreiz radās klavieru variācijas “Ej, saulīte, drīz pie Dieva”, pirmie tautasdziesmu apdaru desmiti.
Darbs latviešu mūzikā izvērsās arī Pēterburgā – 12 gadus J. Vītols vadīja turienes Latviešu labdarības biedrības kori (no 1894. gada), vēlāk – Latviešu dziedāšanas biedrības kori (1907–1918). Līdztekus viņš bija štata mūzikas kritiķis lielajā vācu avīzē St. Petersburger-Zeitung (1897–1914). Docētāja darbā saņēma profesora grādu (1901), pēc N. Rimska-Korsakova nāves pārņēma vairākas tā studiju programmas (1908), no A. Ļadova – kompozīcijas meistarklases vadību (1915). Tajā J. Vītols bijis mentors desmitiem komponistu, t. sk. krievu komponistam Sergejam Prokofjevam (Сергей Сергеевич Прокофьев), to absolvējuši arī latvieši Jānis Zālītis, Ādolfs Ābele, Harijs Ore.
Kad 1918. gadā no karalaikā evakuētajiem latviešu skaņu māksliniekiem un Teodora Reitera vadītā latviešu strēlnieku orķestra tika noorganizēta privātā Latvju opera – Nacionālās operas priekštece, J. Vītols kopā Latvju operu kā tās direktors t. s. operas vilcienā pārcēlās uz Rīgu. Vadīja LK dibināšanas darbus, kļuva par tās direktoru, vēlāk rektoru (1919–1935; 1937–1944) un kompozīcijas klases vadītāju (1919–1944); to absolvējuši vairāku paaudžu latviešu komponisti. Kļuva par komponistu organizācijas Latvijas Skaņražu kopa līdzdibinātāju un priekšsēdētāju (1923–1938).

Jāzeps Vītols Latvijas Konservatorijas 15 gadu jubilejas dienā savā darba kabinetā. Rīga, 11.01.1935.
Fotogrāfs Krišs Rake. Avots: Rakstniecības un mūzikas muzejs.
Sākot ar III Vispārējiem latviešu dziesmu svētkiem J. Vītola darbi bijuši visu dziesmusvētku programmās (arī pēckara trimdas sabiedrības dziesmusvētkos), no IV līdz IX (1938) Vispārējiem latviešu dziesmu svētkiem bijis to galvenais organizators, dibinājis Latviešu dziesmu svētku biedrību (1930), iecelts par goda priekšsēdi I Vispārējo latviešu dziesmu svētku atceres latviešu dziesmu dienās (1948) Bavārijas apgabalā, Vācijā.