Dzimis zemnieka (saimnieka) ģimenē. Beidzis Kuldīgas ministrijas skolu, mācījies Viļņas dzelzceļa tehniskajā skolā (beidzis 1901. gadā). 1905. gadā iestājās Viļņas kājnieku junkurskolā (beidzis 1908. gadā kā junkurs-feldfēbelis). 1913. gadā iestājās Nikolaja Ģenerālštāba akadēmijā (beidzis pirmo klasi, 1914. gadā mācības akadēmijā pārtrauktas sakarā ar Pirmā pasaules kara sākumu). 1922. gadā iestājās Francijas kara akadēmijā (beidzis 1924. gadā). Bijis studentu korporācijas “Tervetia” goda filistrs.

Bija precējies ar Irmu Mariju Liepiņu. Meita – dzejniece Astrīde Ivaska, dēls – matemātiķis Juris Hartmanis.

1904. gadā M. Hartmanis kā savvaļnieks iestājās karadienestā Krievijas armijā, 106. kājnieku pulkā Viļņā. Virsnieks 115. kājnieku pulkā Rīgā (no 1908. gada). Podporučiks (1908), poručiks (1911), štābkapteinis (1915), kapteinis (1914). Pirmā pasaules kara sākumā M. Hartmani no akadēmijas atkomandēja uz 115. kājnieku pulku, kas bija iekļauts 20. armijas korpusā. 08.1915. viņu piekomandēja 29. kājnieku divīzijas štābam, bija jātnieku izlūku komandas priekšnieks. Piedalījās kaujās ar Vācijas armiju Austrumprūsijā un Polijā.

02.1915. M. Hartmanis krita vācu gūstā 20. armijas korpusa sastāvā. Atradās virsnieku gūstekņu nometnēs Vācijā. 1918. gada rudenī M. Hartmani atbrīvoja; 03.11.1918. viņš atgriezās Latvijā.

18.11.1918. Rīgā brīvprātīgi stājās Latvijas Pagaidu valdības rīcībā (kapteinis). No 18.11.1918. Latvijas Pagaidu valdības bruņotajos spēkos (kapteinis); dienēja Apsardzības ministrijas Ģenerālštābā. Latvijas Pagaidu valdības pārstāvis un otrais Ģenerālštāba virsnieks Baltiešu landesvēra virsštābā (01.12.1918.–15.01.1919.).

06.1919. M. Hartmani komandēja uz Igauniju un 07.1919. iecēla par Ziemeļlatvijas brigādes štāba priekšnieku, 08.1919. – par Latvijas armijas virspavēlnieka štāba Operatīvās daļas priekšnieku. Latvijas militārais pārstāvis Polijā (no 10.1919.). Pulkvedis-leitnants (10.1919.), pulkvedis (1924), ģenerālis (1929).

Pēc atgriešanās Latvijā Galvenā štāba Operatīvās daļas priekšnieks (no 01.1922.). Virsnieku akadēmisko kursu priekšnieka palīgs (no 10.1924.), Armijas komandiera štāba Operatīvās daļas priekšnieks (no 1925). Armijas štāba priekšnieka pirmais palīgs (no 12.1929.).

1929.–1930. gadā, lai iegūtu komandēšanas cenzu, M. Hartmanis bija 5. Cēsu kājnieku pulka komandiera vietas izpildītājs, 1932.–1933. gadā – Zemgales divīzijas komandiera vietas izpildītājs. Armijas štāba priekšnieks (no 20.02.1934.). Sevišķu uzdevumu ģenerālis armijas komandiera rīcībā (no 06.10.1939.). M. Hartmanis bija Latvijas un Padomju Sociālistisko Republiku Savienības (PSRS) savstarpējās palīdzības pakta militāro jautājumu komisijas priekšsēdētājs (vēlāk – delegācijas vadītājs jauktajā komisijā savstarpējās palīdzības pakta realizācijai).

Pēc padomju okupācijas 18.06.1940. M. Hartmanis tika iecelts par priekšnieku sakaru štābam sadarbības noorganizēšanai un veicināšanai ar ienākošo PSRS Sarkano armiju. 21.10.1940. viņu atvaļināja “piemērota amata trūkuma dēļ Sarkanajā armijā”.

20.12.1940. M. Hartmani savā saimniecībā bijušajā Lestenes muižā apcietināja un izveda uz ieslodzījuma vietām Krievijā. 07.07.1941. Maskavā M. Hartmanim tika piespriests nāvessods – nošaušana.

1919.–1920. gadā M. Hartmanis nodrošināja militāro un politisko sadarbību ar Poliju, ieskaitot Latgales atbrīvošanas operāciju. 20.–30. gados atradās atbildīgos amatos Latvijas armijas vadībā, tieši piedaloties tās kaujas spēju nodrošināšanā, 1934.–1939. gadā vadīja Armijas štāba darbību, būdams tā priekšnieks, bet neatkarības noslēguma posmā bija spiests koordinēt sakarus ar PSRS armiju, arī Latvijas pilnīgas okupācijas gaitā.

Par nopelniem dienestā un Pirmā pasaules kara kaujās M. Hartmanis apbalvots ar Krievijas Svētā Staņislava ordeni (II šķira, III šķira), ar Svētās Annas ordeni (II šķira, III šķira, IV šķira); par nopelniem kaujā ar Landesvēru un Dzelzsdivīziju 01.07.1919. – ar Latvijas Lāčplēša Kara ordeni (III šķira), Triju Zvaigžņu ordeni (II šķira, III šķira), Aizsargu Nopelnu krustu, Francijas Goda leģiona ordeni (III šķira), Igaunijas Brīvības krustu (I šķiras II pakāpe), Lietuvas Dižkunigaiša Ģedimina ordeni (I šķira), Polijas Polonia Restituta (I šķira, II šķira, IV šķira), Polijas Drošsirdīgo krustu, Somijas Baltās Rozes ordeni (II šķira, III šķira), Zviedrijas Šķēpa ordeni (II šķira). 

10.2002. M. Hartmaņa piemiņai veltītu pasākumu ciklā pie nama Rīgā Pulkveža Brieža ielā atklāta piemiņas plāksne.