早在古羅馬帝國時代，有位皇帝因盛暑難熬，請仆人四處奔波，為其尋覓冰雪解暑。有位聰明的廚師從高山上取回未化的冰雪，用蜂蜜和水果攪拌起來，給皇帝驅熱解渴。這大概便是世界上最早的冰淇淋了。到了13世紀的時候，馬可·波羅從中國把牛奶變冰的辦法帶回意大利，于是歐洲夏季的冷飲有了突破。 
真正使用奶油制作冰淇淋始于15世紀，距今不足500年。冰淇淋在意大利稱為“牛奶花”，在英國被稱為“凍奶油”，這說明冰淇淋的主要成分離不開牛奶。但制作冰淇淋的辦法千差萬別，不同廠家出品的冰淇淋的質量也大相徑庭，當今世界上制作冰淇淋最有名氣的國家是意大利和美國。據說，華盛頓和杰弗遜二位總統都很愛吃冰淇淋，所以美國的冰淇淋制造業很快發展起來。 
冰淇淋是舶來食品。英語icecream，譯成中文是冰奶油，但習慣都譯作冰淇淋，這名稱很妙，既有音譯近似，又屬形義優雅適當，故而至今沿用不衰。當然，也有寫作冰結漣、冰麒麟的，但都不及冰淇淋流傳廣、壽命長。 
原先做冰淇淋的辦法，用一個大木桶，桶里放冰和鹽，冰中間再放一個馬口鐵桶，里面放淀粉漿（稀藕粉）、雞蛋、牛奶、白糖以及香料或者果汁。鐵桶有蓋，蓋上有孔，有軸齒帶動四周葉片，手搖旋轉，打和各物，半小時左右就會凝凍成冰淇淋了。上海以前在馬路上有賣3個銅元一杯的冰淇淋，就是這么做成的。盡管價錢不貴，但未免有礙衛生。后來，改手搖為機器制作，設備和衛生條件也大大改善，冰淇淋在上海的生意越來越好。有一種冰淇淋，做得巧妙，一只猩紅的小櫻桃，幾塊酸滋滋的菠蘿，誘人胃口，取名又十分香艷，叫“花旗大姐姐”，難怪生意會好。