LK struktūra tika veidota pēc Pēterburgas Konservatorijas (Петербургская консерватория) parauga, kuras ilggadējais mācībspēks bija J. Vītols. Augstskolas darbība tika organizēta sešās nodaļās: Kompozīcijas teorijas un ērģeļu, Stīgu instrumentu, Pūšamo instrumentu, Dziedāšanas, Klavieru un Vispārējā jeb obligāto mācību priekšmetu nodaļa, kura bija jāapmeklē visiem audzēkņiem neatkarīgi no viņu izvēlētās specialitātes.
Studiju laiks tika iedalīts zemākajā jeb jaunākajā un augstākajā jeb vecākajā pakāpē. Zemākajā pakāpē par audzēkņiem uzņēma personas, sākot no 13 gadu vecuma, bet augstākajā – vecākus par 18 gadiem. Padomju okupācijas periodā tika likvidēta audzēkņu pakāpju sistēma, tā vietā ieviešot kursu sistēmu. 1941. gadā audzēkņi nosacīti tika sadalīti sagatavošanas kursā, vidusskolas pakāpes I un II kursā un augstskolas pakāpes I–IV kursā. Sagatavošanas un vidusskolas kursi 09.1945. tika izdalīti no LVK, un uz to bāzes tika izveidota patstāvīga vidējās izglītības iestāde – Mūzikas vidusskola pie Latvijas Valsts konservatorijas. Šo skolu 1950. gadā apvienoja ar Jāzepa Mediņa Mūzikas vidusskolu, izveidojot Jāzepa Mediņa Mūzikas vidusskolu pie Latvijas Valsts konservatorijas.
10.1944. pie LVK tika izveidota Muzikāli apdāvināto bērnu grupa, no kuras ar laiku izveidoja no LVK neatkarīgu Emīla Dārziņa Mūzikas vidusskolu.
LVK iekšējā struktūra padomju okupācijas periodā kopumā tika reorganizēta atbilstoši vienotajiem PSRS mūzikas augstskolu mācību plāniem, programmām un studiju sistēmai, par pamatstruktūrvienībām izveidojot fakultātes, nodaļas un katedras. 1964./1965. gadā LVK struktūru veidoja Kompozīcijas un teorijas fakultāte ar Kompozīcijas, Mūzikas vēstures un Mūzikas teorijas katedrām, Izpildītāju fakultāte ar Klavieru, Vokālo, Stīgu instrumentu, Pūšamo instrumentu un Kameransambļu katedrām, Simfoniskā orķestra diriģentu nodaļa, Kordiriģentu nodaļa, Mūzikas pedagoģijas nodaļa. 01.10.1951. tika arī izveidota Teātra fakultāte ar Aktiermeistarības un Režijas nodaļām, LVK pievienojot 1948. gadā izveidoto LPSR Valsts Teātra institūtu. Teātra institūta pievienošana LVK atspoguļoja mēģinājumus strukturāli un saturiski piemēroties mainīgajai sociālpolitiskajai situācijai LPSR. Paralēli specializētajām katedrām tika izveidotas teorētiskās un ideoloģiskās apmācības un vispārējo obligāto priekšmetu katedras: Marksisma-ļeņinisma, Obligāto klavieru, Valodu un literatūras un Fiziskās audzināšanas katedras. Paplašinot LVK darbību, 1967. gadā augstskolā tika izveidota arī Kultūras darbinieku nodaļa, kur studenti varēja specializēties tādās profesijās kā televīzijas režisors un kultūras namu metodiķis, savukārt 1977. gadā izveidota Horeogrāfijas katedra.
Pēc neatkarības atjaunošanas Mūzikas akadēmijā tika sākta pakāpeniska, bet mērķtiecīga struktūras reorganizācija un apmācības sistēmas modernizācija. 23.04.1991. tika likvidētas fakultātes, un JVLMA pamatstruktūru turpmāk veidoja nodaļas un katedras. Studiju, zinātniskā, radošā, mākslinieciskā darba pamatvienība JVLMA ir katedra. 2021. gadā JVLMA bija 18 katedras, kas apvienotas trīs nodaļās – Izpildītājmākslas nodaļas Klavieru, Kameransambļa un klavierpavadījuma, Stīgu instrumentu, Pūšaminstrumentu, Senās mūzikas, Džeza mūzikas, Vokālā, Orķestra diriģēšanas, Kora diriģēšanas, Horeogrāfijas, Koncertmeistaru un Vispārējo klavieru katedras, Mākslu pedagoģijas nodaļas Mūzikas pedagoģijas un Dejas pedagoģijas katedras, Muzikoloģijas, kompozīcijas un tehnoloģiju nodaļas Muzikoloģijas, Kompozīcijas, Mūzikas tehnoloģiju un Vispārizglītojošo studiju kursu katedras.