耶路撒冷名称的准确来源尚无法确定。在希伯来语中,Yelushalaim这个名字可以理解为yelusha(遗产)和shalom(和平)的合成词。另一个比较普遍的解释是它将《圣经》里两个城市的名字结合在一起:耶布斯(Jebus)和撒冷(Salem,意"和平")。撒冷这个地名出现在《创世纪》14章,是大祭司麦基洗德的住处,他为来到这里的亚伯拉罕祝福。耶路的意思是"基石"或者"城市",撒冷为和平,因而耶路撒冷有"和平之城"之称。
在阿拉伯语中,耶路撒冷的名称是القدس或بيتالمقدس。قدس意思是圣地,在词前加冠词ال成为القدس,特指圣城耶路撒冷。同样的,بيت意为房屋、住宅,المقدس意为神圣的(人)、圣洁的(人),两词合起来组成بيتالمقدس则特指圣城耶路撒冷,字面意思也是圣人之家即圣地。
耶路撒冷在希伯莱文中意为"和平之城",阿拉伯语叫"古茨"意为"圣城"。其最著名的是1公里见方的老城,其城墙高12米,有8座城门,分为基督、阿拉伯、犹太、亚美尼亚4个区,老城东南0.14平方公里的圣殿山,是圣城中的圣城。