Dzimis Rīgā, vecāki – Anna un Vladimirs. Kad A. Rubinam bija septiņi gadi, tēvs traģiski gāja bojā. Pēc tam māte viņu audzināja viena. Mācījās Rīgas 31. vidusskolā (1985–1994). Divas reizes precējies, ar pirmo sievu Annu izaudzināja divus bērnus – meitu Milānu un dēlu Marianu.

Ar futbolu A. Rubins sāka nodarboties sešu gadu vecumā pie trenera Jura Docenko zvejnieku kolhoza sporta komandā “9. maijs”. Desmit gadu vecumā viņš pārgāja uz Rīgas “Daugavas” sporta skolu pie treneriem Jurija Andrejeva un Dmitrija Omeljanoviča, bet vēl pēc trim gadiem turpināja futbolu apgūt pie trenera Anatolija Čebana. 1994. gadā, tikai 15 gadu vecumā, A. Rubins nonāca apcietinājumā par zagšanu, izmeklēšanas laikā pusgadu pavadot Rīgas Centrālcietumā. 1995. gada februārī tiesā saņēma divu gadu nosacītu sodu. Pēc iznākšanas brīvībā atsāka nodarboties ar futbolu, un jau tā paša gada beigās A. Rubinu atzina par sezonas labāko Latvijas jauniešu pussargu 1977./1978. gadā dzimušo vecuma grupā.

1995. gadā A. Rubins sāka spēlēt pieaugušo Latvijas čempionātā pirmās līgas komandā ZS “Beikas”, kas nākamajā sezonā mainīja nosaukumu uz “Daugava-Juniors”. 1997. gada sākumā A. Rubins devās turpināt karjeru ārzemēs, pievienojoties Zviedrijas augstākās līgas klubam “Östers IF” no Vekšes. Pēc vienas sezonas Zviedrijā viņš atgriezās Latvijā, parakstot līgumu uz pieciem gadiem ar Latvijas čempionvienību “Skonto”. Rīgas komandas sastāvā A. Rubins divas sezonas pēc kārtas triumfēja valsts meistarsacīkstēs, kā arī ļoti labi sevi parādīja Eiropas mačos, kad 04.08.1998. UEFA Čempionu līgas priekšsacīkstēs Rīgā guva uzvaras vārtus mačā ar Bukarestes “Rapid” (2:1), palīdzot “Skonto” negaidīti divu spēļu summā pieveikt Rumānijas čempionus.

2000. gadā A. Rubins pabija uz pārbaudi vairākos Anglijas klubos, ieskaitot Londonas “Arsenal”, bet oktobrī parakstīja līgumu ar Anglijas pēc skaita otrās līgas klubu “Crystal Palace”, kas par viņa pāreju “Skonto” klubam samaksāja divarpus miljonus britu mārciņu. Londonas komandā A. Rubins aizvadīja divus gadus, īpaši izceļoties ar 10.01.2001. Anglijas līgas kausa pusfinālā gūtajiem vārtiem pret titulēto klubu “Liverpool” (2:1). 2003. gadu A. Rubins jau iesāka Krievijā, pievienojoties augstākās līgas klubam Jaroslavļas “Šiņņik”, bet 2005. gadā vienu sezonu aizvadīja arī Krievijas titulētākajā komandā Maskavas “Spartak”, līdz atkal uz gadu nonāca Jaroslavļā. 2007. gadā A. Rubins atgriezās Latvijā, pievienojoties klubam “Liepājas metalurgs”, kur spēlēja pusotru sezonu, 2008. gada vasarā pārceļoties uz Azerbaidžānu, kur aizvadīja četras sezonas trīs dažādos klubos (“Inter”, “Qarabag” un “Simurq”). 2013. gada sākumā A. Rubins 34 gadu vecumā beidza futbolista karjeru.

Spēlējis dažāda vecuma Latvijas jauniešu izlasēs, A. Rubins 10.11.1998. Tunisā debitēja Latvijas valstsvienībā, pārbaudes mačā pret Tunisijas izlasi nākot laukumā uz maiņu spēles pārtraukumā (0:3). Latvijas izlases pamatsastāvā A. Rubins pirmo reizi devās laukumā 28.04.1999., Eiropas čempionāta kvalifikācijas turnīrā aizvadot pilnu maču Rīgā pret Albānijas izlasi (0:0). Tad arī iesākās A. Rubina iespaidīgā spēļu sērija, jo kreisās malas pussargs uzstādīja visu laiku Latvijas izlases rekordu, piecu gadu laikā neizlaižot nevienu izlases maču un valsts izlasē aizvadot 59 spēles pēc kārtas (28.04.1999.– 08.09.2004.). Turklāt 57 no 59 mačiem viņš devās laukumā pamatsastāvā. Savus pirmos vārtus valstsvienības labā A. Rubins guva 05.07.2001. Baltijas kausa mačā Rīgā pret Lietuvas izlasi (4:1), palīdzot komandai uzvarēt turnīrā.

A. Rubins bija Latvijas izlases sastāvā 2004. gada Eiropas čempionāta kvalifikācijas turnīrā, kad Latvijas izlase sensacionāli izcīnīja ceļazīmi uz “Euro 2004” finālturnīru. Šajā vēsturiskajā atlases ciklā A. Rubins neizlaida nevienu no 10 mačiem, vienmēr spēlējot komandas sākumsastāvā. Lai gan vārtus viņš neguva, tieši pēc A. Rubina izpildītā brīvsitiena Latvijas izlase 20.11.2002. jau mača kompensācijas laikā izrāva dramatisku uzvaru Sanmarīno (1:0), bumbai ielidojot vārtos rikošetā no mājinieku spēlētāja. 2004. gada jūnijā Eiropas čempionāta finālturnīrā Portugālē A. Rubins aizvadīja visas trīs spēles – pret Čehiju (1:2), Vāciju (0:0) un Nīderlandi (0:3).

01.04.2009. Pasaules kausa atlases mačā Rīgā pret Luksemburgu (2:0) A. Rubins kļuva par ceturto Latvijas futbolistu, kurš sasniedza starptautiskajā futbolā prestižo 100 valstsacīkšu robežu. Šajā gadā A. Rubins aizvadīja spilgtu spēli Pasaules kausa kvalifikācijas turnīra mačā Rīgā pret Moldovas izlasi 14.10.2009., ar diviem gūtiem vārtiem nodrošinot uzvaru 3:2. Pēdējo reizi Latvijas valstsvienības sastāvā A. Rubins laukumā izgāja 11.10.2011. Rijekā Eiropas čempionāta atlases mačā pret Horvātiju (0:2). Kopumā A. Rubins Latvijas valstsvienībā spēlēja 13 gadus, aizvadot 117 mačus, kas ir otrs lielākais rādītājs tās vēsturē (vairāk izlasē spēlējis ir tikai ilggadējais komandas kapteinis Vitālijs Astafjevs). A. Rubinam valstsvienību mačos ir deviņi gūtie vārti.

Uzreiz pēc futbolista karjeras beigšanas 2013. gadā A. Rubins sāka strādāt par treneri, sešus gadus trenējot bērnus jauniešu sporta klubā “FC Real Pro” Ikšķilē. Paralēli šajos gados epizodiski viņš strādāja arī ar Latvijas čempionāta pirmās līgas komandām – FK “Ogre” (2014) un FK “Auda” (2019), bet neilgi pirms pēkšņās nāves 2022. gada vasarā bija kļuvis par Latvijas čempionāta virslīgas kluba Jūrmalas “Spartaks” treneri.

A. Rubins ierasti spēlēja vidējās līnijas kreisajā malā, izceļoties ar teicamām ātruma īpašībām, labu sitienu ar kreiso kāju un fizisko izturību – kā pussargs viņš gan aktīvi piedalījās uzbrukuma spēlē, gan arī darbojās aizsardzībā. 

Kopā ar Askoldu Uldriķi sarakstījis biogrāfisku darbu par savu dzīvi “Es sēdēju tikai vienreiz” (2022).