含有钙(Ca)、镁(Mg)盐类等矿物质的水叫做“硬水”。河水、湖水、井水和泉水都是硬水。自来水是河水、湖水或者井水经过沉降，除去泥沙，消毒杀菌后得到的，也是硬水。刚下的雨雪，水里不含矿物质，是“软水”。水烧开后，一部分水蒸发了，本来不好溶解的硫酸钙(CaSO4，石膏就是含结晶水的硫酸钙）沉淀下来。原来溶解的碳酸氢钙(Ca(HCo3)2）和碳酸氢镁（Mg(HCO3)2)，在沸腾的水里分解，放出二氧化碳(CO2)，变成难溶解的碳酸钙(CaCO3)和氢氧化镁（Mg(OH)2)也沉淀下来。这就是水垢的来历。

水垢根据其形成原因和成形状态的不同大致可分为硬垢和软垢两种。当水中含有碳酸盐胶体、细菌和有机物等杂质时，碳酸盐类似于水泥沙浆中的沙石，而胶体、细菌和有机物等则相当于水泥沙浆中的水泥，当水中胶体、细菌和有机物等粘性物质和碳酸盐共同作用，在高温煮沸条件下则形成了和容器（或管道表面）粘附在一起的硬垢。而一旦胶体、细菌和有机物等粘性物质被去除（如通过超滤滤除）后，即使水中钙、镁离子和碳酸根离子浓度很高，也只生成洁白而松散的容易去除的碳酸盐软垢，而不会产生硬垢。