牙粉其实是牙膏出现之前的替代品，牙膏与牙粉的区别，主要是形态上的区别，一个是粉状，一个是膏状，其主要的起效成分基本相同。在牙膏出现前，牙粉是人们最常用的牙齿清洁剂。古代为了保持口腔的清洁卫生，在使用各种工具揩齿刷牙的同时，还配以各种洁牙剂，最常见的是盐，即牙粉的前身。宋代， 出现了“牙粉行”, 专门出售中药配制的牙粉，当时的牙粉已经成为社会商品。

一直到了18世纪, 英国才开始工业化生产牙粉, 牙粉才在西方成为一种商品。我国在20世纪初开始了工业化生产牙粉，最早出现的是“地球”牌、“老火车”牌牙粉。当时的牙粉主要采用碳酸钙、滑石粉和碳酸镁等为主要原料。牙膏是在牙粉的基础上改进形成的，与牙粉相比，牙膏中多添加了保湿剂和增稠剂，使其可以以膏体的形式储存，大大提高了使用的方便，牙膏出现后便迅速取代了牙粉。