古希伯来人属于闪族的一支。它在公元前三千纪时游牧于幼发拉底河流域的草原，公元前二千纪中叶，侵入迦南，就是后来称为巴勒斯坦的地区。当时的迦南人把入侵者叫做“希伯来人”，意思是“从河那边来的人”(“河”是指幼发拉底河)。游牧的希伯来人比较强悍，迦南当地的原住民文化较高而性格较为柔弱，且曾经过埃及军的占领和蹂躏，元气大伤，终于逐渐被希伯来人所征服和同化。迦南是地中海东岸的一个狭小地区（南北150英里，东西75英里），有高峻的山岭，也有丰腴的河谷。它夹在埃及、巴比伦、亚述、波斯等大国之间，是军事上的要地，也是商业上的交通要道。早在公元前三千纪时，迦南人便脱离游牧生活而从事定居的农业，在周围文化古国埃及、腓尼基、苏美尔、巴比伦的文化影响下，曾经创造了自己的“迦南文化”，并在公元前十八世纪时达到了全盛时期。但从那时以后，经过埃及军的全面占领，便开始衰落了。到埃及军撤退时（公元前十五—十四世纪）希伯来人便乘机入侵，经过长期艰苦的斗争，克服当地各部落的抵抗，逐渐定居下来，并且创造了自己的希伯来文字。
公元前11世纪左右希伯来人先后在南方和北方建立了两个强大的部落联盟，北方的称为“以色列”，南方的叫“犹太”。公元前1030年以色列部落首领扫罗被推为第一任国王，统一了南北方两大部落联盟，形成了一个初具规模的联合王国。犹太部落的将领大卫乘扫罗王战败伏剑而死之机登上王位，迁都耶路撒冷，建立了统一的以色列—犹太王国，被誉为希伯来的统一者和奠基人。大卫辞世之后，他的儿子所罗门在他的基础上促使王国进一步强盛起来。所罗门将耶路撒冷建成了著名的都城，他所建造的神殿成了犹太教的唯一中心和象征。
公元前722年亚述帝国攻灭以色列王国。公元前586年新巴比伦帝国摧毁犹太王国，制造了东方历史上著名的“巴比伦之囚”事件，即将包括王公贵族、政教首领、工匠歌手在内的5万多犹太人掳掠到巴比伦做苦役。公元前538年征服新巴比伦王国的波斯帝国将囚禁在巴比伦的犹太人迁返故国，重建都城耶路撒冷，让其在臣属于波斯帝国的前提下建立神权统治。其后几百年间，希伯来人又屡次遭马其顿和罗马等外族的侵略。公元70年，重建的都城耶路撒冷和神殿又被毁坏，古代希伯来国家的历史至此基本结束，大批希伯来人流落散居在地中海周围地区，辗转漂泊世界各地。