摩西死后，约书亚继承他的职位，率领以色列人入侵迦南，历尽艰辛，终于在迦南土地上争夺了一块立足安身之地。但约书亚并未能完全控制这块上帝应许的土地，约书亚初期的一些战争胜利并未重复。《圣经•士师记》是一系列失败的忧郁的记录。在一次与腓利斯人的大战中，以色列死了三万人，连上帝的约柜也被掠去。以色列人悲观失望，竟至拋弃对耶和华的信仰，改而崇拜当地迦南人信奉的巴力神和伊斯他录神，并同腓利斯人、赫梯人以及其他种族通婚。大约在公元前993年，大卫王终于统率以色列各部落，战胜腓利斯人和叙利亚、约旦河以南各族，建立了一个统一的以色列王国。大卫之子所罗门在位期间，以色列国势臻于鼎盛。所罗门王对于犹太教所做的贡献就是用了二十年的时间建了一座金碧辉煌的神庙。但他个人对于耶和华的信仰并不虔诚。他妻妾众多（据说有一千人之多），其中不少娶自外邦。他在宗教信仰上似乎较为宽容，允许这些来自外邦的妃嫔在宫中建造祭祀本族的小庙，崇拜她们自己的神灵。这就大大地违背了耶和华和摩西的诫命了。所罗门死后，以色列分裂为南部犹太、北部以色列两国（公元前922—722年）。南北两国彼此争战不已，实力大为削弱。公元前722年，北部以色列王国为强邻亚述帝国所灭，十万余众的以色列人被放逐外国，在历史上消声匿迹。南部犹太王国的命运也好不了多少。先是臣服于亚述，得以苛延残喘。公元586年，巴比伦王尼布甲尼撤攻陷耶路撒冷，焚圣殿，把犹太人掳往巴比伦。犹太国家从此不再存在。但这一部分犹太人的命运比北部以色列人为佳，巴比伦统治者允许他们保持自己的血统和宗教。公元前538年，波斯帝国居鲁士大帝征服巴比伦。波斯统治者对犹太人的政策很宽大，很快就把犹太人送回故乡，并帮助他们重建耶路撒冷城和圣殿。