Ketika Nabi Ibrahim as bersama anaknya Ismail membangun Ka'bah banyak kekurangan yang dialaminya. Pada mulanya kabah itu tidak ada bumbung dan pintu masuk. Nabi Ibrahim as dan Nabi Ismail bertekad menyelesaikan pembangunan kabah dengan mengangkut batu-batu dari berbagai gunung dan bukit.
Dalam sebuah kisah disebutkan, ketika pembangunan kabah selesai, ternyata Nabi Ibrahim masih merasakan kekurangan sebuah batu lagi untuk diletakkan di kabah.
"Pergilah engkau mencari sebauh batu yang akan kuletakkan sebagai penanda bagi umat manusia" kata Nabi Ibrahim kepada Ismail putranya.
Kemudian Nabi Ismail as pergi dari satu bukit ke bukit yang lain untuk mencari batu yang baik dan sesuai. Ketika Nabi Ismail as sedang mencari batu di sebuah bukit, tiba-tiba datang malaikat Jibril as memberikan sebuah batu yang indah.
Nabi Ismail as dengan segera membawa batu tersebut kepada Nabi Ibrahim. Nabi Ibrahim as merasa gembira melihat batu yang sungguh indah itu, beliau menciumnya beberapa kali.
"Dari mana kamu dapatkan batu ini ?" tanya Nabi Ibrahim kemudian.
"Batu ini kuterima dari pada yang tidak memberatkan cucuku dan cucumu (Jibril)" jawab Nabi Ismail.
Nabi Ibrahim mencium lagi batu itu dan diikuti Nabi Ismail as sehingga sekarang Hajar Aswad itu dicium oleh orang yang pergi ke Baitullah. Oleh karena itu siapa saja yang bertawaf di Kabah sangat disunnahkan untuk mencium Hajar Aswad.
Milyaran kaum muslimin berebut ingin mencium batu Hajar Aswad itu, yang tidak dapat mencium batu Hajar Aswad cukup dengan memberikan isyarat lambaian tangan kanan saja.
Ada riwayat lain yang menerangkan bahwasanya duhulu batu Hajar Aswad itu berwarna putih dan bersih, akan tetapi akibat dicium setiap orang yang datang menziarahi kabah dari zaman dahulu hingga sekarang, batu tersebut menjadi berwarna hitam seperti yang terlihat sekarang ini. Wallahu a'alam.
Apabila manusia mencium batu Hajar Aswad maka muncullah perasaan seolah-olah mencium Nabi Ibrahim dan Nabi Ismail.
Ingatlah Hajar Aswad itu merupakan tempat mustajab untuk berdoa. Bagi yang ada kesempatan berdoalah disana, insya allah doanya akan segera dikabulkan Allah SWT. Jagalah hati sewaktu mencium Hajar Aswad supaya tidak menyekutukan Allah, sebab tipu daya syetan sangat kuat di Tanah Suci Mekkah.
Ingatlah ucapan Khalifah Umar bin Al Khattab apabila beliau mencium batu Hajar Aswad : "Aku tahu sesungguhnya engkau hanyalah batu biasa. Andai saja aku tidak melihat Rasulullah SAW menciummu (Hajar Aswad), sudah pasti aku tidak akan melakukannya. (mencium Hajar Aswad).