肥皂是脂肪酸金屬鹽的總稱，金屬主要是鈉或鉀等鹼金屬。最早的肥皂成分也不外乎就是碳酸鈉和碳酸鉀，前者為天然湖礦產品，後者就是草木灰的主要洗滌成分。如今的肥皂中，還添加了合成色素、合成香料、防腐劑、抗氧化劑、發泡劑、硬化劑、粘稠劑、合成界面活性劑等等。
據史料記載，最早的肥皂配方起源於西亞的美索不達米亞，約在公元前3000年，人們便將1份油和5份鹼性植物灰混合製成清潔劑。但在世界各地都有關於肥皂起源的傳說。比如古羅馬的高盧人，每遇節日便將羊油和山毛櫸樹灰溶液攪成稠狀塗在頭髮上，梳成各種髮型。一次節日突遇大雨，淋壞了髮型，卻意外洗乾淨了頭髮。
又傳說，古羅馬人在祭神時，燒烤的牛羊油滴落在草木灰裡，形成了「油脂球」。婦女們洗衣時發現，沾了油脂球的衣服更易洗乾淨。這都說明了人們用動物脂肪與草木灰（鹼）皂已用千年歷史。而且考古學家在意大利的龐貝古城遺址中還發現了制肥皂的作坊，說明羅馬人早在公元2世紀已經開始了原始的肥皂生產。
而古埃及的肥皂，則是一個廚師不小心把食用油打翻在地，又趁別人沒有發現時急忙用灶爐裡的草木灰覆蓋，再用手捧出去扔掉了。回來以後用水清洗，只是輕輕地搓了幾下，那滿手的油膩就很容易地洗掉了，甚至連十分難清洗的老汙垢也隨之被洗掉了。後來廚房裡的傭人們就經常用油脂拌草木灰來洗手。
最後這個辦法竟然傳到了法老王的耳朵裡，他便讓廚師做些拌了油的草木灰供他洗手用。當然，傳說畢竟只是傳說，未必完全當真。不過埃及亞歷山大城附近的埃及湖中，盛產天然碳酸鈉，因此古埃及洗滌技術相對發達，發明肥皂也就不足為怪了。
我國在宋朝時就出現了人工合成的洗滌劑，而且還是香的。人們將天然皂莢(皂角)搗碎細研，加上香料等物，製成桔子大小的球狀，專供洗面浴身之用，俗稱「肥皂團」。而根據宋人周密的《武林舊事》，南宋京都臨安那時就已經有了專門經營「肥皂團」的生意人。
早期的肥皂是奢侈品，18世紀法國人利用鹽及石炭製作「人工蘇打」，取代傳統自灰燼中取出的鹼汁。到了19世紀，德國人發明以電氣分解食鹽水來製作氫氧化鈉；自此之後，苛性鈉的普及，得以讓肥皂從原本只有王宮貴族買得起的商品，搖身一變，變成平民百姓的日常生活用品。
