Paralēli studijām LU A. Grigulis uzsāka darbu Rīgas Pasta un telegrāfa dienestā (1925–1927) kā telegrāfists Rīgas 1. pasta kantorī, vēlāk kā galvenais telegrāfists Rīgas Galvenajā pastā (1927–1929). Bija Rīgas Centrālās kopējās slimokases kurjers, reskontrista palīgs un rēķinvedis (1929–1934), līdztekus šiem darbiem arī Strādnieku teātra padomes loceklis, lugu tulkotājs un literārās daļas vadītājs (1928–1934). Pēc 1934. gada 15. maija apvērsuma amatus zaudēja un uz desmit dienām tika apcietināts. Savā biogrāfijā A. Grigulis uzsvēris, ka aresta dēļ nekur netika pieņemts darbā līdz pat 1937. gadam, kad tika pabeigtas studijas. Pēc to beigšanas atkal strādāja Rīgas Galvenajā pastā par pasta kalpotāju, telegrāfistu, vēlāk par pasta skapīšu abonēšanas inkasentu (1937–1940). Pēc Latvijas okupācijas tika iecelts vairākos atbildīgos amatos padomju kultūras iestādēs – Latvijas Padomju Sociālistiskās Republika (LPSR) Sabiedrisko lietu ministrijas teātru repertuāra redaktors (1940), žurnāla “Karogs” atbildīgais sekretārs (1940), Valsts apgādniecību un poligrāfisko uzņēmumu pārvaldes (VAPP) Daiļliteratūras apgādniecības vadītājs (1940–1941). Otrā pasaules kara laikā evakuējās uz Padomju Krieviju un bija 43. latviešu gvardes divīzijas ierindnieks. Piedalījās kaujās pie Narofominskas, Staraja Rusas, Demjanskas. Šajā laikā bija arī laikraksta “Latviešu Strēlnieks” kara korespondents (1942–1944). Pēc Otrā pasaules kara, 1945. gadā, kļuva atkal par VAPP Daiļliteratūras apgādniecības vadītāju. No 1945. līdz 1947. gadam bija LPSR Valsts akadēmiskā drāmas teātra literārās daļas vadītājs. Savukārt no 1945. līdz pat 1989. gadam strādāja Latvijas Valsts universitātes Vēstures un filoloģijas fakultātē par lektoru, vēlāk – docentu un profesoru (no 1970), bija arī Latviešu valodas un folkloras katedras vadītājs (1948–1962). Dažus gadus strādāja Rīgas kinostudijā par Scenāriju redkolēģijas galveno redaktoru (1962–1967). Bija LPSR Augstākās Padomes 2., 3., 6. un 7. sasaukuma deputāts (1947–1951; 1954–1958, 1962–1984). 1971. gadā ievēlēts par LPSR Augstākās Padomes Prezidija locekli.
A. Grigulis bija arī sabiedrisku un politisku organizāciju biedrs. Studiju gados viņš kļuva par marksistu studentu biedrības “Klints” (1926–1934) un “Vilnis” biedru. No 1929. līdz 1934. gadam viņš bija Latvijas Sociāldemokrātiskās strādnieku partijas biedrs. Kādu laiku A. Grigulis bija arī jauno rakstnieku grupas “Trauksme” biedrs (~1928–1929). 1940. gadā A. Grigulis tika pilnvarots likvidēt Latvijas Republikas Preses biedrību un atjaunot Rakstnieku un žurnālistu arodbiedrību. Viņš bija viens no Latvijas Padomju rakstnieku savienības pirmajiem biedriem (1940), kā arī ilggadējiem valdes locekļiem (ievēlēts 2., 3., 4., 7., 8., 9. Rakstnieku savienības kongresā 1947., 1954., 1958., 1976., 1980., 1986. gadā). 1954. gadā A. Grigulis kļuva par Padomju Savienības Komunistiskās partijas biedru. No 1971. līdz 1985. gadam viņš bija Latvijas Komunistiskās partijas Centrālās komitejas loceklis. 1978. gadā ievēlēts par LPSR Zinātņu akadēmijas akadēmiķi.