海德拉巴鄰近地區遠至公元前五世紀已有人跡，公元七至十一世紀是遮婁其王朝（Chalukya）的國土。與印度悠長的歷史相比，到了 1518 年 Qutb Shahi 王朝時才正式建城的海德拉巴只屬「新興城市」。1591 年，第五任蘇丹把海德拉巴從今天 Golconda Fort 所在地區遷往現址。由於之後海德拉巴一直由信奉伊斯蘭教的邦王所統治，甚至英國殖民統治年代仍得以保持獨立，海德拉巴至今仍充滿伊斯蘭氣息。
Charminar 是海德拉巴的地標和最有古舊特色的地方，海德拉巴最大的清真寺 Mecca Masjid 和十九世紀中葉落成的宮殿 Chowmahalla Palace 亦位於 Charminar 一帶。