Dzimis Jāņa Kuršes ģimenē. 1914. gadā beidzis Liepājas pilsētas reālskolu. 12.1916. beidzis Gatčinas praporščiku skolu (Гатчинская школа прапорщиков). 20.10.1922.–22.09.1923. mācījās un beidza Latvijas armijas Virsnieku kursus, 07.11.1924.–08.11.1926. – Virsnieku akadēmiskos kursus.

Precējies 1932. gadā ar Mildu Austriņu, bērni – Arnolds, Māris Marģers, Andris, Austra.

Pēc došanās bēgļu gaitās no Kurzemes uz Krieviju 10.1915. brīvprātīgi iestājās armijā, 2. kājnieku rezerves bataljonā Oranienbaumā, beidza mācību komandas apmācības kursu. Pēc praporščiku skolas beigšanas no 02.01.1917. – praporščiks Latviešu strēlnieku rezerves pulka 12. rotā Vidzemē. Podporučiks (11.1917.). 01.1918. atvaļināts. Dzīvoja vecāku mājās Kurzemē.

No 09.06.1919. – Latvijas Pagaidu valdības bruņotajos spēkos (virsleitnants); dienējis Ziemeļlatvijas brigādes 2. (vēlākajā Latvijas armijas 5.) Cēsu kājnieku pulkā. Kapteinis (18.12.1919. par kaujas nopelniem), pulkvedis leitnants (31.03.1921.), pulkvedis (17.09.1929.), ģenerālis (02.08.1940.). 24.11.1919. piekomandēts pulka štābam sevišķiem uzdevumiem, no 20.02.1920. – mācību komandas priekšnieks, no 04.05. – pulka 1. rotas komandieris, no 12.11.1920. – 1. bataljona komandieris, vairākkārt bija pulka komandiera vietas izpildītājs. No 09.12.1926. – Kurzemes divīzijas štāba priekšnieka vietas izpildītājs, no 15.12.1927. – Virsnieku kursu grupas vadītājs, 17.09.1929. iecelts par Latgales divīzijas štāba priekšnieku Pļaviņās. No 04.10.1937. bija 11. Dobeles kājnieku pulka komandiera vietas izpildītājs Daugavpils garnizonā, no 18.03.1938. – 1. Liepājas kājnieku pulka bataljona komandiera vietas izpildītājs Liepājā, vēlāk virsnieks Latgales divīzijas pārvaldē Pļaviņās, no 16.09.1939. – 10. Aizputes kājnieku pulka komandiera vietas izpildītājs Daugavpils garnizonā.

Pēc valsts okupācijas no 04.07.1940. bija 4. Valmieras kājnieku pulka komandieris Rīgā, 02.08. iecelts par Vidzemes divīzijas komandiera palīgu. Pēc armijas likvidācijas 21.10.1940. atvaļināts “piemērota amata trūkuma dēļ Sarkanajā armijā”. Ar ģimeni dzīvoja Pļaviņās, savās mājās Šinu ielā, un nodarbojās ar dārzkopību. Vācu okupācijas laikā, no 30.12.1941., bija 18. Kurzemes kārtības dienesta bataljona komandieris (pulkvedis, jo netika atzītas pēc 17.06.1940. piešķirtās pakāpes), no 21.02.1942. – Rīgas pilsētas 12. policijas iecirkņa priekšnieks, no 1942. gada vasaras – Rīgas Jūras ostas ūdens policijas priekšnieka palīgs. No 1943. gada – administrators restorānā “Romas pagrabs”, no 1944. gada – “Esplanāde” Rīgā. 1944. gada vasarā devās bēgļu gaitās uz Zemgali, Kurzemi, dzīvoja Dobelē, Tukumā, Liepājā, no 1945. gada vasaras dzīvoja Ventspilī, bija slimnīcas saimniecības pārzinis, no 1946. gada – Valsts apdrošināšanas inspekcijas vecākais revidents. 30.01.1952. Ventspilī apcietināts, ieslodzīts cietumā Rīgā, 05.04.1952. ar Latvijas Padomju Sociālistiskās Republikas Valsts drošības komitejas Kara tribunāla spriedumu piespriesti 25 gadi ieslodzījumā, izvests uz soda nometnēm Krievijā.

A. Kurše bija viens no Latvijas armijas ierindas augstākajiem komandieriem ar Neatkarības kara kaujas pieredzi un augstām profesionālām spējām, ko apliecina iegūtā augstākā militārā izglītība. Okupācijas laikā piešķirtā ģenerāļa pakāpe bija iegūta pēc vecākuma izdienas un dienesta sasniegumiem Latvijas armijā. 

Rīgas Brāļu kapos, tāpat kā citiem Latvijas armijas augstākajiem virsniekiem bez noteiktas kapa vietas, uzstādīta piemiņas kapa plāksne.

Par Neatkarības kara laikā kaujās ar Sarkano armiju Latgalē 12.–13.06.1920. parādīto varonību A. Kurše apbalvots ar Lāčplēša Kara ordeni (III šķira), par dienesta sasniegumiem – ar Triju Zvaigžņu ordeni (III šķira), Viestura ordeni (II šķira, ar šķēpiem), Aizsargu Nopelnu krustu, Igaunijas Brīvības krustu (II šķiras III pakāpe), Igaunijas atbrīvošanas kara piemiņas zīmi, Lietuvas neatkarības 20 gadu jubilejas piemiņas medaļu.