Cebir ile ilgili bilinen en eski bilgiler M.Ö. 1700-1600'den kalan eski Mısır papirüsleri üzerinde yazılmış olarak bulunmuştur ve kullanımı bazı basit denklemlerin çözümlerinden ibaret olduğu ortaya çıkmıştır. Sonradan eski Yunan matematikçileri cebir ile geometriyi ortak kullanmışlardır. Euclid (M.Ö. 300) ve ilk olarak cebirsel semboller kullanan Diophanteus (M.Ö. 275) xy = k2, x+y = a, x2 - y2 = a2 biçimindeki denklemlerin çözümlerini aramışlardır.
Eski zamanlarda Çinliler ve Hintliler de denklem çözmeyi biliyorlardı; Brahmagupta (M.S. 628), Mahavira (M.S. 850), Bhaskara (M.S. 1150) cebirsel yöntemlerle birçok problemi çözmüşlerdir. İslam matematikçileri arasında Mohammed ibn Musa al-KhoWarizmi (M.S. 825) ve al-Karkhi (M.S. 1100) en ünlüleridir. Özellikle al-KhoWarizmi'nin cebiri Avrupalılar üzerinde büyük etki göstermiştir.
Avrupa'da ilk olarak İtalya'da cebir öğrenilmeye başlanmıştır. Özellikle ikinci ve üçüncü derece denklemlerin çözülmesine çalışılmıştır. Avrupa'da cebir ile uğraşan en eski matematikçiler Tartaglia (1535), Cardan (1545), Ferrari (1540), Vieta (1590), Harriot (1600), Descartes (1637) ve Wallis (1655)'dir. Daha sonra cebir Avrupalı matematikçiler tarafından geliştirilmiş olup Ruffini (1803), Abel (1824) ve Galois (1831) 19. yüzyılın başındaki en önemli matematikçilerdir.