La Kaaba se alza en el centro de la Mezquita Sagrada (al-Masyid al-Haram) y es la alquibla, la dirección hacia la que se orientan los musulmanes en la oración. El Corán la llama la primera casa establecida para la humanidad (3:96), relata que Abraham e Ismael levantaron sus cimientos (2:127) y la convierte en un sostén y fundamento para las personas (al-Ma'ida 5:97). Al-Baqara 2:125 describe la Casa como lugar de reunión y de seguridad.
Al-Baqara 2:144 recoge el cambio de la alquibla de Jerusalén a la Mezquita Sagrada; según los relatos, ocurrió en Medina en el segundo año de la Hégira. La Mezquita Sagrada es la mezquita que rodea la Kaaba; las colinas de Safa y Marwa y el pozo de Zamzam se encuentran hoy dentro de su recinto.
La circunvalación (tawaf) de la Kaaba está en el centro del Hach y la Umra. La mezquita se ha ampliado muchas veces a lo largo de los siglos y es hoy la mayor del mundo.