当昔日的“圣城”只剩下一垣残壁时，“犹太王国”彻底成为历史名词。
公元前933年，所罗门王去世，犹太人由于内部日益激烈的矛盾斗争和权力角斗动摇了王国的根基，不久王国分裂成两部分。犹太人的12支派中，位于耶路撒冷以北的10个支派，组成北方王国，史称“以色列王国”，定都于撒玛利亚。另外两个支派，则组成南方王国，仍以耶路撒冷为首都，史称“犹太王国”。
分裂之后两个王国时有斗争，导致双方实力都受到影响。在近东这种资源相对紧缺，而人口众多，各路统治者都虎视眈眈的地方，没有实力无异于自掘坟墓。
大国阴影下的生存和耶路撒冷的沦陷
亚述国家扩张势头劲猛，以色列王国因为战略失误被一举灭亡。犹太王国因为内部比较统一，实力弱小，在大国角逐中地位显得微不足道，因此，较少受到大国的入侵。但是，亚述帝国实力雄厚，犹太王国实际上成为亚述帝国的附庸。
亚述国王西拿基立在公元前701年洗劫犹太军事重镇拉吉什，在意欲入侵耶路撒冷之时，却突然撤兵，进行和谈，耶路撒冷在希西家王的统治下躲过一劫。
公元前701年，亚述人征服了犹太城镇拉吉。牵着骆驼，带着行李的犹太俘虏走向流放巴比伦之路。
亚述帝国灭亡之后，新巴比伦帝国又把视线关注到这里，国王尼布甲尼撒二世在公元前586年来到耶路撒冷，犹太国王无力抵抗，遭受灭顶之灾。
耶路撒冷连同圣殿都被毁，犹太民族历史上的第一圣殿期就此结束，犹太人的独立历史也就此了结。
巴比伦之囚
公元前586年尼布甲尼撒二世攻陷耶路撒冷后，城中少有人迹，火焰从犹太教堂中喷出，耶路撒冷将会在大火中
失去家园的犹太人被掳到巴比伦，长达半个世纪过着犹如囚犯一般的生活，因此，历史上把这一时期的犹太人叫做“巴比伦之囚”。
他们把在巴比伦的生活当作是上帝的惩罚，而不是一场灾难。像以西结这样的先知们也会去告诫人们，要努力保守自己的信仰。
他们随身携带的《律法书》，还有其他文学作品，都起到了滋养心灵的作用。不仅如此，在“巴比伦之囚”后期，犹太人在那儿获得了繁荣发展，人口大增，生活水平也大大提高。
但是对回乡的渴望，连同复兴邦国的信念，开始深深扎根，通过和宗教救赎信仰的联系，并逐渐演化为犹太复国主义思潮的最初形式。
这一信念一直存在于犹太人的心中，并随着历史长河的滚滚流淌不断发酵，最终引发了犹太复国主义的高涨和最终现代以色列国的建立。
在进行崇拜的时候，所发展出来的进入会堂而不是圣殿举行聚会，以无声的祈祷代替实际物品的献祭，是在巴比伦生活的犹太人的创举。
将近50年之后，公元前537年，波斯国王居鲁士批准第一批犹太人回耶路撒冷，犹太人开始回乡的大潮。废墟遍野的家园没有阻止这些人的信仰热情，他们开始着手圣殿的重新建设问题。
圣殿重建之后，他们的会堂和之前创建的礼拜模式也没有被废除，成为犹太人的传统，融入犹太人的血液之中。
大流散时期
罗马皇帝哈德良（Hadrian）宣布将在耶路撒冷建造罗马神庙，并禁止犹太人居住时，忍无可忍的犹太人只好再次揭竿而起。
在大卫家族后裔巴尔•克希巴（Bar-Cocheba）的带领下，他们一度夺回了耶路撒冷。在与强大的罗马军团较量中，犹太起义军在公元135年被彻底剿灭。
近百万人被屠杀，上千个村庄被夷为平地，几十万犹太人被卖到各地为奴。为防止犹太人再次反抗，罗马帝国令他们“永远不得进入耶路撒冷城”。
为了进一步羞辱犹太人，罗马人还以犹太人历史上最难缠的对手腓尼基的名字来命名他们的家园，从那时起，这一地区以巴勒斯坦（Palestine，即腓尼基人的土地）而被人知晓。
除了少数人留存，大多数犹太人都彻底告别了家园，拉开了犹太人长达1800年的流散（Diaspora）史的序幕。
从公元135年到1948年，犹太人开始了波澜壮阔的大流散时期。之前在巴比伦时期建立的传统，开始发挥巨大的作用。
他们有了一个可以携带的“圣殿”（即任何地点一群人都可以聚在一起进行祈祷读经等活动的这一传统），跳出了时间、地点的限制。
四海为家的犹太人并没有因时空的距离而淡化稀释自己的信仰和身份认同，无时无刻不在加强着这一意识。
每年的毁城纪念日，昔日“圣城”的残墙下都是一片哀号，那是飘零四散的犹太人在向上帝哭诉着“人间的悲剧”。
哭墙又称西墙，是耶路撒冷旧城古代犹太国第二圣殿护墙的一段，也是第二圣殿护墙的仅存遗址。长约50米，高约18米，由大石块筑成。犹太教把该墙看作是第一圣地，教徒至该墙例须哀哭，以表示对古神庙的哀悼并期待其恢复。千百年来，流落在世界各个角落的犹太人回到圣城耶路撒冷时，便会来到这面石墙前低声祷告，哭诉流亡之苦，所以被称为“哭墙”。