Kabe islamiyet insanlığa gelmeden önce de vardı. Nuh tufanından sonra yıkılan Kabe'nin yerine Hz. ibrahim tekrar inşa etmiştir. Hz. ismail'in babasına "baba buraya Kabeyi yapıyoruz ama kim gelecek" demesi üzerine Allah tarafından sesler gelmeye başlamış, Hz. ismail'in "Bu sesler neyin nesi" diye sorması üzerine Hz. ibrahim "Gelecekte Kabe'yi ziyaret edeceklerin ruhları" demiştir.

Kabenin içerisinde islam dininden evvel 360 adet put vardı. Fakat son peygamber muhafazid Mustafa S.A.V gelip islamiyet kabul olunduktan sonra Kabe'nin içerisine bir şey konmadı.

Şu anda Kabe'nin içirisinde tavana çıkmak için bir merdiven ve üç ağaç sütun bulunur. iç duvarlar ve yerler tamamen mermerle kaplıdır. Tavanda ise altın ve gümüş kandiller asılıdır. Kapıya yakın bir yerde Hacer-ül Esved taşı yerleştirilmiş ve etrafı gümüş bir çemberle çevrilmiştir. Hacer-ül Esved taşı cennetten gelen bir taş olup ilk geldiğinde nurani bir beyazlığa sahipken daha sonra dünyanın kötülüğünden bir kısmı kararmıştır. Hacer: kara taş demektir.

Kabe sadece oradaki taş binadan ibaret değildir. Kabe, yer altından gökyüzene kadar uzanan nurani bir direk gibidir. Kabe'ye veya kabe'nin taşlarına tapınma söz konusu değildir. Puta tapanların niyeti tapınmaktır. Kabe'ye yönelenlerin niyeti taşa tapınmak değil tapındıkları Allah'ın emrine uymak ve emredilen ihlaslı yöne gitmektir.