cement一詞由拉丁文caementum發展而來，是碎石及片石的意思。水泥的歷史最早可追溯到古羅馬人在建筑中使用的石灰與火山灰的混合物，這種混合物與現代的石灰火山灰水泥很相似。用它膠結碎石制成的混凝土，硬化后不但強度較高，而且還能抵抗淡水或含鹽水的侵蝕。長期以來，它作為一種重要的膠凝材料，廣泛應用于建筑工程。
1813年，法國的土木技師畢加發現了石灰和粘土按三比一混合制成的水泥性能好。
1824年，英國建筑工人約瑟夫·阿斯譜丁（Joseph Aspdin）發明了水泥并取得了波特蘭水泥的專利權。他用石灰石和粘土為原料，按一定比例配合后，在類似于燒石灰的立窯內煅燒成熟料，再經磨細制成水泥。因水泥硬化后的顏色與英格蘭島上波特蘭地方用于建筑的石頭相似，被命名為波特蘭水泥。它具有優良的建筑性能，在水泥史具有劃時代意義。
