Algebras sākotne meklējama ap 2000. gadu vidu p. m. ē., kad jau pazina naturālos skaitļus un parastās aritmētiskās darbības. Ēģiptiešu priesteri risināja pirmās pakāpes un arī vienkāršākus otrās pakāpes vienādojumus. Babilonijas matemātiķi prata atrast pozitīvās saknes kvadrātvienādojumiem ar pozitīviem koeficientiem, negatīvie skaitļi vēl nebija pazīstami. Arī Ķīnā tajā laikā prata risināt lineāros un kvadrātvienādojumus, risināja arī vienādojumu sistēmas ar vairākiem nezināmajiem un izmantoja negatīvus skaitļus. Jo īpaši strauja matemātikas attīstība sākās 4. gs. p. m. ē. Grieķijā. Lielākie grieķu algebras sasniegumi ir saistīti ar 3. gs. dzīvojušo Diofantu no Aleksandrijas (Διόφαντος ὁ Ἀλεξανδρεύς), kurš deva ieguldījumu ne vien vienādojumu, bet arī (mūsdienu terminoloģijā) skaitļu teorijā un algebriskajā ģeometrijā. Diofanta grāmatu sērija “Aritmētika” (Ἀριθμητικά) ir grieķu matemātikas ievērojamākais darbs papildus Eiklīda (Εὐκλείδης) “Elementiem” (Στοιχεῖα). Nākamais nozīmīgais algebras attīstības posms 7.–15. gs. saistās ar Indiju un islāma zemēm. Ap 825. gadu persiešu matemātiķis un astronoms Muhameds bin Mūsā al Horezmī (محمد بن موسى خوارزمی) uzrakstīja populārzinātnisku grāmatu “Īsa grāmata par rēķiniem ar atjaunošanu un izlīdzināšanu” (arābu الكتاب المختصر في حساب الجبر والمقابلة, Al-kitāb al-mukhtaṣar fī ḥisāb al-ğabr wa’l-muqābala; latīņu Liber Algebræ et Almucabola). Uzskata, ka tās nosaukumā vārds al-ğabr ‘atjaunošana’ mūsdienu valodā nozīmē mazinātāja pārnešanu no vienādojuma vienas puses uz otru par saskaitāmo, bet wa’l-muqābala – vienādu locekļu saīsināšanu tā abās pusēs (eksistē arī citi viedokļi gan par abu vārdu tulkojumiem, gan jēgas izskaidrojumu). Grāmatā ar rēķiniem ir saprasta galvenokārt kvadrātvienādojumu atrisināšana pozitīvos skaitļos, kas pirmo reizi arī pilnībā izskaidrota. Šī grāmata pārveidoja toreizējo algebru (proti, zemāko pakāpju vienādojumu teoriju). Tā kļuva par vienojošu teoriju, kas iekļāva arī racionālos un iracionālos skaitļus un ģeometriskos lielumus, traktējot tos visus kā viena veida objektus. Šādas algebriskas domāšanas parādīšanās veicināja algebras plašu perspektīvu nākotnē. Pēc matemātikas attīstības apsīkuma agrīnajos viduslaikos algebra savu atdzimšanu Eiropā piedzīvoja, kad tur kļuva zināmi arābu avoti (tostarp minētā al Horezmī grāmata) un jau aizmirsto senās Grieķijas autoru, tostarp Diofanta, darbi, kurus 12. gs. sāka tulkot latīniski. 15. gs. sākās matemātikas noriets islāma pasaulē, bet tās attīstības centrs pārvietojās uz renesansi piedzīvojušo Eiropu. Pagrieziena punkts algebras vēsturē ir franču matemātiķa Fransuā Vjeta (François Viète) izveidotā simbolu lietošanas sistēma 16. gs. otrā pusē. Tā ļāva kompakti pierakstīt vienādojumus, aprakstīt aritmētikas likumus un rēķināšanas algoritmus, kā arī dot tam algebrisku pamatojumu. Šī sistēma gan vēl nebija līdzīga mūsdienās pierastajai un bija visai smagnēja. Mūsdienu simbolu sistēmu ieviesa franču filozofs un matemātiķis Renē Dekarts (René Descartes) 1637. gadā publicētajā grāmatā “Ģeometrija” (La Géométrie), liekot pamatu arī analītiskajai ģeometrijai. 16. gs. algebriski tika vispārīgā veidā atrisināti trešās un ceturtās pakāpes vienādojumi un pamatotas to sakņu aprēķināšanas formulas (mūsdienās pazīstamas kā Kardano formulas). Tikai 19. gs. sākumā izdevās pierādīt, ka vispārīgā veidā piektās un augstāku pakāpju vienādojumus ar algebriskām metodēm atrisināt nav iespējams. Tomēr veiktais darbs kopā ar moderno algebras simboliku bija veicinājuši polinomu algebras attīstību. Savukārt lineāro vienādojumu sistēmu risināšanas vajadzībām tika izdomātas matricas un determinanti; ar šo aizsākās lineārā algebra. 19. gs. laikā algebra piedzīvoja strauju attīstību. Notika arī ievērojamas kvalitatīvas izmaiņas, kuru rezultātā gan algebras saturs, galvenās idejas un metodes, gan tās vieta un loma matemātikā krasi mainījās. Īpaši attīstījās trīs galvenie pētījumu virzieni, no kuriem izveidojās abstraktā algebra: algebriskā skaitļu teorija (vācu matemātiķi: Kārlis Frīdrihs Gauss (Johann Carl Friedrich Gauß), Rihards Dedekinds (Julius Wilhelm Richard Dedekind), Leopolds Kronekers (Leopold Kronecker)), permutāciju un ģeometrisko transformāciju grupu teorija (franču matemātiķi: Evarists Galuā (Évariste Galois), Edmons Žordāns (Marie Ennemond Camille Jordan), norvēģu matemātiķis Nilss Henriks Ābels (Niels Henrik Abel)), lineārā algebra un hiperkompleksie skaitļi (vācu matemātiķis Hermans Grasmans (Hermann Günter Grassmann), britu un amerikāņu matemātiķis Džeimss Džozefs Silvesters (James Joseph Silvester), britu matemātiķis Arturs Keilijs (arī – Arturs Keli) (Arthur Cayley).