北京的胡同最早起源于元代。
元代,北京的胡同间隔较宽,元大都基本上都是三间大四合院的距离。 因此后代在中间空地建院,必赖小胡同为出入通道,这样就在许多有名的 大胡同中产生了大量无名的小胡同,于是俗语有云:“著名的胡同三千六, 没名的胡同赛牛毛”。 北京许多胡同富有历史意义。作为元、明、清三代帝都的北京,如司礼监胡同、恭俭胡同(内宫监变音而来)、织染局胡同、酒醋局胡同、钟鼓司胡同、惜薪司胡同、蜡库胡同、瓷器库胡同等等,都是历代内府太监的监、局、司、库,各衙门所在地,显示了当时皇城的范围。从前众多的衙署也遗留下不少胡同地名,如东厂胡同是明代有名的锦衣卫所在地,是太监残害忠良的地方。南、北太常胡同,是以太常寺而取名。贡院胡同,为明清的考场。许多权贵第宅所在地,也成了胡同名字,如李阁老胡同,《长安客话》说李东阳的居住所在武定侯胡同,为永乐年间功臣郭英的住宅所在。汪家胡同原清雍正、乾隆时宠臣汪由郭的居住所在。同时,手艺好的手工业者、买卖公道的商贩,也因居所被人叫熟,慢慢形成了胡同。如刘兰塑胡同、磨刀儿胡同、粉房刘胡同、豆腐陈胡同、沙锅刘胡同等。甚至一般老百姓名字也成了胡同的名称,如王老胡同、石老娘胡同、宋姑娘胡同,等等,据说这类以贫贱者命名的胡同大大超过权贵者命名的胡同,这是北京胡同名称值得称道的地方。