Ķīmiskās aizsardzības vienības sāka veidoties Pirmā pasaules kara laikā paralēli ar MII attīstību un lietošanu. Pirmo ķīmisko uzbrukumu 1915. gadā Beļģijā pie Ipras nodrošināja, t. i., hlora balonus apkalpoja, sapieri. Sākotnēji ķīmiskās aizsardzības vienību uzdevums bija gan ķīmisko ieroču lietošana, gan aizsardzība pret tiem. 1917. gadā saistībā ar Amerikas Savienoto Valstu (ASV) iesaistīšanos karā Eiropā ASV armijā tika izveidots Armijas ķīmiskais korpuss (Army Chemical Corps). Pirmā pasaules kara beigu posmā valstis sāka vairāk domāt par aizsardzības pasākumiem un veidot vienības, kuru galvenais uzdevums bija aizsargāt pārējās vienības no ķīmiskajiem ieročiem. Ķīmisko, bioloģisko un kodolieroču lietošanas funkcijas sāka pāriet uz artilēriju, aviāciju, kara floti un stratēģisko raķešu vienībām. Padomju Sociālistisko Republiku Savienībā (PSRS) papildu ķīmiskās aizsardzības vienībām pastāvēja arī ļoti liels funkciju ziņā radniecīgs civilās aizsardzības karaspēks (войска гражданской обороны), kura uzdevumos ietilpa kodolsprādzienu radīto postījumu seku novēršana, ķīmisko avāriju likvidācija un tamlīdzīgas darbības. Šis karaspēks piedalījās arī avārijas seku likvidācijas pasākumos Černobiļas atomelektrostacijā 1986. gadā.
Pēc Otrā pasaules kara ķīmiskās aizsardzības vienības ieguva funkcijas, kas saglabājušās arī mūsdienās. Aukstā kara laikā, attīstoties kodolieročiem, ķīmiskajiem un bioloģiskajiem ieročiem, notika arī spēcīga ķīmiskās aizsardzības vienību attīstība.
Ķīmiskās aizsardzības vienību lielākā organizatoriskā vienība parasti ir rota, kurā ir apvienotas divas galvenās funkcijas: saindējuma atklāšana un neitralizācija. Rota sastāv no viena izlūku vada un viena vai diviem dekontaminācijas vadiem. Ja pastāv ķīmiskās aizsardzības bataljons, tas parasti ir vairāku rotu apkopojums.
Ķīmiskās aizsardzības vienības ir mazas salīdzinājumā ar citām bruņoto spēku vienībām un parasti veido 1–2 % no bruņoto spēku karavīru kopskaita. Ķīmiskās aizsardzības vienības nav visu valstu bruņoto spēku sastāvā.
Aukstā kara laikā tika izstrādāts ekipējums un procedūras. Ekipējuma attīstība notika divās galvenajās jomās: atklāšanas un identifikācijas, kā arī dekontaminācijas jomā.
Atklāšanas un identifikācijas (jeb izlūku) jomā ķīmiskās aizsardzības vienībās bruņojumā tika ieviestas izlūkošanas mašīnas, ko veidoja galvenokārt uz bruņutransportieru bāzes, aprīkojot ar pieejamo radioaktīvās un ķīmiskās izlūkošanas aparatūru, meteoiekārtām, paraugu ņemšanas iekārtām un citu ekipējumu. 20. gs. 80. gados tika uzsākts darbs pie mobilo lauka laboratoriju izveides, kurās tika izvietota kvalitatīvāka aparatūra, ko apkalpoja karavīri ar inženieru kvalifikāciju. Gan Ziemeļatlantijas līguma organizācijas (North Atlantic Treaty Organization, NATO), gan PSRS pusē pastāvēja problēma ar tādas aparatūras izgatavošanu, kas dotu iespēju lauka apstākļos ātri noteikt bioloģisko aģentu klātbūtni.
Dekontaminācijas jomā tika izveidotas dekontaminācijas mašīnas, ko veidoja uz kravas automašīnu šasijām, tās aprīkojot ar sūkņiem, ūdens un ķimikāliju cisternām, dušām un citām iekārtām. Dekontaminācijas mašīnas tika izmantotas, lai lauka apstākļos būtu iespējams ātri neitralizēt (noskalot, iznīcināt) radioaktīvo, bioloģisko un ķīmisko saindējumu, kas ir nokļuvis uz bruņoto spēku karavīriem un kara tehnikas. Personāla dekontaminācijai tika izmantotas dušu iekārtas, savukārt kara tehniku un citu militāro ekipējumu dekontaminēja ar ķimikālijām vai karstu gaisu.