Cette obligation a été établie en l'An 9 après l'Hégire, appelée l'année de la délégation pendant laquelle la sourate Al-'Imrân a été révélée. Ce dernier verset extrait du Coran nous informe très clairement de la raison pour laquelle tout croyant doit faire le pèlerinage. C'est en effet pour l'amour de Dieu et en commémoration du voyage d'Abraham et de sa famille.
Le croyant cherche ainsi à plaire à Dieu car ce  pèlerinagepeut lui permettre de faire pardonner tous ses péchés, comme l'a précisé le prophète :

"Quiconque accomplit le pèlerinage pour l'amour de Dieu et s'abstient de toutes relations sexuelles avec son épouse, et ne fait pas de mal et ne commet pas de péchés, alors il retournera chez lui [après le pèlerinage sans péchés] comme s'il était à nouveau né."

Abraham (Ibrahim) est une figure emblématique chez les musulmans ; il est un modèle de piété et un fervent adorateur de Dieu, ayant toujours été défenseur de l'unicité divine. Abraham est considéré comme le patriarche du monothéisme pur :

« Dis : "C'est Allah qui dit la vérité. Suivez donc la religion d'Abraham, Musulman droit. Et il n'était point des associateurs". (Sourate 3, Verset 95)

Il est partit s'établir en Égypte avec sa famille. Plus tard, il a conduit une de ses épouses, Hajar, et leur fils Ismaïl, à une vallée d'Arabie, faisant confiance à Dieu qui devait s'occuper d'eux.
Hajar, préoccupé par son jeune bébé, commença à rechercher dans les environs de la nourriture et de l'eau. Ainsi, en réponse à sa recherche, Dieu fit sortir de sous le pied d'Ismaël une source d'eau afin d'étancher sa soif. Hajar avait escaladé les collines voisines recherchant de la nourriture et d'éventuelles caravanes. Certaines se sont arrêtées et ont demandé la permission à Hajar d'utiliser l'eau de cette source pour leur propre consommation et celle de leurs chameaux. Certains commerçants décidèrent de s'installer dans cette petite vallée : c'est comme cela que la ville de La Mecque est née.