油麻地天后庙于1865年由当地的水上居民所建，原为油麻地海边的一座小庙宇，当时位置约于今日的北海街一带。
    1870年，油麻地居民组成油麻地五约，重修该天后庙，成为当地的宗教中心及最繁盛的地方。当时天后庙前的土地是渔民晒船上麻缆的地方，而不少经营补渔船的桐油及麻缆商店在那里开设，成为“油麻地”这个地名的起源。
    1887年，天后庙以南及以北的街道被政府命名为“庙南街”和“庙北街”，其后合并为庙街，也是“庙街”这个街名的起源。

    油麻地天后庙以天后庙正殿为中，两侧则建有油麻地观音楼、油麻地城隍庙、油麻地观音楼社坛及油麻地书院，各座建筑主祀不同的神灵。
    庙中保留的历史文物极为丰富，其中有1860年的石狮子，1865年、1875年、1890年及1916年所立的庙碑，1888年、1897年铸的铜钟，以及颇多的木石雕刻。而庙顶的1916年石湾瓦脊，至今依然存在。