据历史文献记载和考古学家的研究，至少在三千前，人类就已经开始发明并应用一些牙齿清洁法。如反映西周历史的《周礼》就有这样一句话：“鸡初鸣、咸盥漱”——公鸡打鸣，人们起床，然后以盐水漱口。而古埃及残存下的象形文字中，则有用薄荷、胡椒、盐等物品研磨混合成粉，然后用于漱口的内容。
但是在古代，牙齿的清洁程度是与社会阶层挂钩的，广大平民百姓基本都处于连盐水都舍不得用的状态，他们要去除口臭，要等到工业革命的来，因为彼时才有大批量生产、相对低廉销售的牙齿清洁用品供大众之用。
廉价的牙齿清洁用品一开始是粉状物，其主要的成分是廉价的石灰粉，此物被形象的称为牙粉。但是牙粉用起来并不方便，各地的发明家都尝试用更多添加物来提高刷牙的效果。
随着发明家们的不断创新改进，牙粉才发展成了今天软绵绵的状态。那么到底是谁率先发明了这种膏状的牙膏，至今仍无定论。但到底是谁将其首先大批量生产、相对低廉销售、推广到普罗大众，则早有定论——高露洁公司。
1873年，高露洁公司推出了第一款牙膏。这款牙膏的主要成分是肥皂粉、石灰粉和甘油，还有少量的香精、树胶粉和糖精钠，带有一种淡淡的芳香味、成糊状，用以容纳的器具是一个玻璃罐子，和今天用的宝宝霜类似。
这款牙膏的销量不算太坏，但远没有取代当时的主流清洁产品——牙粉的地步，采用玻璃罐子导致成本提高，用起来也不太方便。后来以一位美国医生发明的可折叠软管牙膏为模板，制造出采用金属软管的“高露洁香味牙膏”，市场反应极好。