Atklātas vairākas milzu grauzēju fosiliju sugas. Viens no zinātnei zināmajiem grauzējiem ir Josephoartigasia monesi, kura ķermeņa masa bija no vienas līdz pusotrai tonnai. Cita suga, Phoberomys pattersoni, kas dzīvoja pirms 11,6–5,3 miljoniem gadu mūsdienu Venecuēlas teritorijā, svēra 221–774 kg. Recento (pašlaik dzīvojošo) grauzēju ķermeņa izmērs svārstās no 3–5 cm dažām sicistu (Sicista) sugām līdz 130 cm kapibarām. Mazākais zināmais šīs kārtas pārstāvis, Āfrikas pigmejpele (Mus minutoides), var sasniegt 3 cm garumu (neskaitot asti 2 cm garumā) un svērt aptuveni 7 g. Otrā skalas galā ir kapibara (Hydrochoerus hydrochaeris), kuras vidējā ķermeņa masa ir aptuveni 65 kg. Īpaši lieli īpatņi sver līdz pat 91 kg.
Lielākā daļa recento grauzēju ir sīkie dzīvnieki. Grauzēju aste var būt ievērojami garāka par ķermeni (sicistām) vai arī tās var pilnībā nebūt, kā tas ir jūrascūciņām Cavia porcellus. Grauzēju ķermeņa un ekstremitāšu forma ievērojami atšķiras atkarībā no to dzīvesveida. Lēkājošajām formām ir labi attīstītas pakaļkājas. Daudz lēcējpeļu sugu pārvietojas tikai uz pakaļkājām. Alu iemītniekiem ir cilindriska ķermeņa forma un labāk attīstīti nagi uz priekškājām. Planējošajiem grauzējiem ir sānu ādas krokas.
Gan augšžoklī, gan apakšžoklī ir pa diviem lieliem priekšzobiem bez noslēgtām saknēm. Priekšzobi aug visu dzīvnieka mūžu, tāpēc, graužot cietu barību, tie nekļūst īsāki. Priekšzobu ārējo virsmu veido cieta emalja, bet aizmugures daļu – samērā irdens dentīns. Strupastēm augšējo priekšzobu augšanas ātrums sasniedz 0,9–1,4 mm, bet dzerokļu (vaigu zobu) – 0,4–1,2 mm nedēļā. Grauzējiem nav ilkņu, un priekšzobus no priekšējiem dzerokļiem atdala diastēma. Dzerokļiem ir plakana košļājamā virsma, uz kuras ir emaljas valnīši un pauguriņi vai cilpas. Dažu sugu dzīvnieku dzerokļiem nav sakņu (strupastēm). Dzerokļi (3–5 augšžoklī un 3–4 apakšžoklī) ir piemēroti rupjas barības saberšanai. Zobu skaits ir no 12 līdz 22. Grauzēju zarnu trakts ir diezgan garš, jo tie ēd rupju augu barību. Visiem grauzējiem, izņemot susuru, ir aklā zarna, kurā pārtiku apstrādā fermentācijas ceļā. Aklā zarna ir īpaši labi attīstīta sugām, kas barojas ar zāli un koku mizu.