Pēc pamatskolas beigšanas 1906.–1912. gadā mācījās Jelgavas reālskolā. 1913.–1914. gadā studēja Sanktpēterburgas (no 08.1914. – Petrogradas) Politehniskajā institūtā ķīmiju. 1914.–1915. gadā mācījās Konstantīna artilērijas skolā Petrogradā. Pirmā pasaules kara laikā dienēja Krievijas armijā smagās artilērijas un zenītartilērijas karaspēka daļās dažādos amatos – vada komandieris, baterijas vecākais virsnieks, saimniecības priekšnieks, baterijas komandieris; dienesta pakāpes – praporščiks (1915), podporučiks (1916). 04.1918. kopā ar artilērijas bateriju no Petrogradas evakuēts uz Voļsku. 07.1918. iestājās Satversmes sapulces locekļu Tautas armijā, vēlākajā Sibīrijas (Kolčaka) armijā un 1918.–1920. gadā piedalījās Krievijas Pilsoņu karā, karadarbībā pret lieliniekiem. Bija artilērijas komandieris uz bruņotā tvaikoņa “Gorec”, dienēja smagās artilērijas divizionā, bija artilērijas baterijas komandieris. No 02.1920. dienestā 1. Latvijas strēlnieku (Troickas) bataljonā; virsleitnants. No 07.1920. – Imantas pulkā, ar kuru kopā ar tvaikoni “Voroņež” 10.1920. atgriezās Latvijā.

Turpmāk dienēja Latvijas armijā. 1920.–1922. gadā bija virsnieks Kara skolā. 1922.–1923. gadā mācījās Artilērijas virsnieku kursos. 1923. gadā paaugstināts par kapteini. 1923.–1928. gadā virsnieks Smagās artilērijas divizionā (no 1926. gada – pulks). 1928.–1930. gadā virsnieks Artilērijas inspektora štābā. 1930.–1934. gadā virsnieks Bruņoto vilcienu pulkā. 1934. gadā paaugstināts par pulkvedi-leitnantu. 1934.–1936. gadā virsnieks Zemgales artilērijas pulkā; bija pulka saimniecības priekšnieks. 1936.–1940. gadā piekomandēts Latvijas Fiziskās kultūras un sporta komitejai (LFKSK). 08.1940. atkomandēts uz Zemgales artilērijas pulku un pārcelts uz Zenītartilērijas pulku. 10.1940. no dienesta armijā atvaļināts.

Ar ātrslidošanu sāka nodarboties, būdams skolnieks. Pirms Pirmā pasaules kara piedalījās sacensībās Jelgavā, Rīgā, kā arī studiju laikā, 1914. gadā, startēja ātrslidošanas sacīkstēs Sanktpēterburgā. Pirmā pasaules kara laikā Pēterburgā turpināja nodarboties ar ātrslidošanu.

Līdztekus dienestam Latvijas armijā 20. gs. 20.–30. gados ar panākumiem startēja ātrslidošanas sacensībās Latvijā un ārzemēs. Latvijas meistars jeb čempions ātrslidošanā astoņus gadus – 1924., 1926.–1932. gadā (čempions netika noskaidrots 1925. gadā); valsts čempiona titulu izcīnīja kopvērtējumā, ņemot vērā sniegumu četrās dažādās distancēs. Latvijas olimpiskais čempions, t. i., vispārējo sporta svētku jeb Latvijas olimpiādes uzvarētājs 1928. un 1931. gadā. Sasniedzis Latvijas rekordu vairākās ātrslidošanas distancēs. 01.1928. Rīgā, izcīnot vienlaikus Latvijas un valsts olimpiskā čempiona titulu, A. Rumba saņēma Valsts prezidenta Gustava Zemgala ceļojošo balvu, kas toreiz tika pasniegta pirmo reizi.

Viens no diviem pirmajiem Latvijas pārstāvjiem olimpiskajās spēlēs. 01.1924. startēja Pirmajās ziemas olimpiskajās spēlēs Šamonī (Francijā), četru ātrslidošanas distanču kopvērtējumā ieņemot 7. vietu. Labākais rezultāts A. Rumbam bija 10. vieta 1500 m distancē. Citi rezultāti – 11. vieta 5000 m un 10 000 m distancē, 16. vieta 500 m distancē.

01.1926. Eiropas ātrslidošanas čempionātā Šamonī visu distanču kopvērtējumā A. Rumba izcīnīja 5. vietu. 02.1927. pasaules ātrslidošanas čempionātā Tamperē (Somijā) kopvērtējumā ieņēma 8. vietu, bet 02.1928. pasaules ātrslidošanas čempionātā Davosā (Šveicē) – 12. vietu.

A. Rumba bija vienīgais Latvijas sportists, kas startēja Otrajās ziemas olimpiskajās spēlēs 02.1928. Sanktmoricā (Šveicē). Olimpisko spēļu ātrslidošanas sacensībās labāko rezultātu uzrādīja 1500 m distancē, ierindojoties 14. vietā; 5000 m distancē ieņēma 15. vietu, 500 m distancē – 16. vietu.

Aktīvās sporta gaitas beidza 20. gs. 30. gadu vidū, taču vecmeistaru ātrslidošanas sacensībās piedalījās arī pēc tam. Par godu A. Rumbas 30 gadu sporta darbības jubilejai 02.1940. Rīgā norisinājās senioru ātrslidošanas sacīkstes, kurās uzvaru un akciju sabiedrības “Rota” dāvāto balvu izcīnīja pats jubilārs A. Rumba.

Kā daudzpusīgs sportists A. Rumba pārstāvēja Armijas sporta klubu (ASK) un piedalījās citu sporta veidu sacīkstēs – tostarp futbolā, bendijā, dažādās vieglatlētikas disciplīnās, slēpošanā, jāšanas sportā, dažādās šaušanas disciplīnās.

A. Rumba aktīvi līdzdarbojās sporta organizācijas jomā un it īpaši Latvijas Ziemas sporta savienības (LZSS) darbā. 1927./1928. gada sezonā bija LZSS priekšsēdētājs, 1928./1929. gada sezonā – LZSS priekšsēdētāja biedrs, 1926.–1929. gadā LZSS Slidskriešanas jeb Ātrslidošanas sekcijas vadītājs. 20. gs. 30. gados bija Latvijas ātrslidotāju oficiālais pārstāvis starptautiskās sacīkstēs – ziemas olimpiskajās spēlēs Garmišā-Partenkirhenē (Vācijā) 02.1936., pasaules un Eiropas ātrslidošanas čempionātos. Līdzdarbojās 02.1939. Rīgā notikušā Eiropas ātrslidošanas čempionāta organizatoriskajā darbā.

Piedalījās ASK valdes darbā, bija ASK Ātrslidošanas sekcijas vadītājs. Līdzdarbojās arī Latvijas Vieglatlētikas savienības un Latvijas Futbola savienības darbā. 1936.–1940. gadā bija LFKSK ģenerālsekretāra amatā; bija Latvijas Olimpiskās komitejas loceklis. 07.‒08.1936. Latvijas bija delegācijas vadītāju sastāvā olimpiskajās spēlēs Berlīnē (Vācijā). 30. gados līdzdarbojās Starptautiskās Slidošanas apvienības (International Skating Union, ISU) darbā.

Ar sporta organizēšanu nodarbojās arī padomju un nacistiskās okupācijas laikā. 1941. gadā bija sporta lietu speciālists Latvijas Padomju Sociālistiskās Republikas (LPSR) sporta organizācijās. Sākoties nacistiskajai okupācijai, 1941.–1942. gadā bijušās Fiziskās kultūras un sporta komitejas vadītāja pienākumu izpildītājs – sporta dzīves vadītājs okupētajā Latvijā. 1942.–1944. gadā bija atjaunotā ASK priekšsēdētājs. Nacistiskās okupācijas laikā bija arī Rīgas pilsētas ugunsdzēsības nodaļas priekšnieks, no 1942. gada – būvuzņēmuma “B. Lukatis” administratīvajā darbā.

Atjaunojoties padomju okupācijai, 1944.–1949. gadā darbojās dažādu LPSR sporta organizāciju sportistu sagatavošanas darbā kā instruktors, treneris.

25.03.1949. Padomju Sociālistisko Republiku Savienības (PSRS) varas iestāžu deportēts uz Amūras apgabalu, Krievijas Padomju Federatīvajā Sociālistiskajā Republikā (KPFSR). Vēlāk bija nometinājumā Ziemeļkazahstānas apgabalā, Kazahijas Padomju Sociālistiskajā Republikā. Atbrīvots 11.1955., pēc tam atgriezies Latvijā.

Apbalvots ar IV šķiras Triju Zvaigžņu ordeni (1935), V šķiras Triju Zvaigžņu ordeni (1929), IV šķiras Viestura ordeni (1938), I šķiras Vācijas Olimpisko ordeni (1936), Latvijas atbrīvošanas kara piemiņas zīmi (1923), Latvijas Republikas atbrīvošanas cīņu 10 gadu jubilejas piemiņas medaļu (1928).