1827. gadā Tomass Konrāds fon Baldenšteins (Thomas Conrad von Baldenstein) pelēkajai zīlītei deva nosaukumu Parus cinereus montanus. Mūsdienās tā iedalīta ģintī Poecile, tāpēc tās zinātniskais nosaukums ir Poecile montanus, taču daudzās mūsdienās izmantotās publikācijās atrodams arī iepriekšējais nosaukums – Parus montanus. Poecile cēlies no sengrieķu valodas vārda ποικῐ́λος, poikílos ar nozīmi ‘raibs’, bet ar to apzīmēts arī mazs putniņš (kurš tieši, nav zināms). Savukārt montanus latīņu valodā nozīmē ‘kalnu’.
Pelēkajai zīlītei izdalītas 14 pasugas, no kurām Eiropā sastopamas sešas: Poecile montanus kleinschmidti (Lielbritānijā), Poecile montanus rhenanus (no Francijas ziemeļrietumu daļas līdz Rietumvācijai, Šveices un Itālijas ziemeļu daļā), Poecile montanus montanus (no Francijas dienvidaustrumu daļas līdz Rumānijai, Bulgārijai un Grieķijai), Poecile montanus salicarius (Vācijā un Rietumpolijā, līdz Šveices ziemeļaustrumu daļai un Austrijai), Poecile montanus borealis (no Skandināvijas ziemeļos līdz Ukrainai dienvidos) un Poecile montanus uralensis (Krievijas Eiropas daļas dienvidaustrumos). Latvijā sastopama pasuga Poecile montanus borealis.