Dalla cima battuta dal vento del Monte Nebo, che domina il Mar Morto, la valle del fiume Giordano, Gerico e le lontane colline di Gerusalemme, Mosè vide la Terra Santa di Canaan in cui non sarebbe mai entrato. Morì e fu sepolto a Moab, "nella valle di fronte a Beth-Peor" (Deuteronomio 34:6).

Il monte Nebo divenne un luogo di pellegrinaggio per i primi cristiani di Gerusalemme e vi fu costruita una piccola chiesa nel IV secolo per commemorare la morte di Mosè. Alcune delle pietre di quella chiesa si trovano ancora al loro posto originale nel muro intorno all'area absidale.

Nel V e VI secolo la chiesa è stata sottoposta ad opere di ampliamento che l’hanno trasformata nella grande basilica che attualmente conosciamo, con la sua splendida collezione di mosaici bizantini.

La Croce Serpentina, che si trova appena fuori dal santuario, è il simbolo del serpente di rame (o di bronzo) innalzato da Mosè nel deserto e della croce su cui Gesù fu crocifisso.