哈密是以前汉朝西域、唐朝伊州之地。汉武帝曾经设置酒泉郡、张掖郡、敦煌郡，即明清的甘、凉、肃。又在玉门关设置通往西域，并设置都护及戊巳校尉，以阻断匈奴单于的右方，即后来的哈密。西晋时为凉州牧张寔占领。三国时期魏国又打通西域。隋朝隋炀帝因裴矩进《图记》，抵达玉门关，设置伊吾镇、且末镇。唐朝时期，哈密隶属陇右道，安史之乱时，被吐蕃占领。此地地表无水源，常年寒冷，多有积雪，雪融了方为水源。元朝时，封兀纳失里为威武王，占领此地。明朝初期，朱元璋平定陕西、甘肃后，在嘉峪关以西不设置行政官署 。
明朝洪武十三年（1380年），都督濮英屯兵西凉，奉命进兵哈密。占据此地的元裔兀纳失里遣使请降。洪武十四年（1381年），哈密使臣回回阿老丁向明朝贡马，诏赐文绮，遣往畏兀儿地方宣谕。洪武二十三年（1390年），哈密王兀纳失里遣长史阿思兰沙、马黑木沙贡马。洪武二十四年（1391年），因兀纳失里阻断交通，抢夺贡物，追杀路经哈密的各国使者，中原和西域交通断绝。太祖朱元璋命都督佥事刘真偕甘肃都督宋晟率兵攻占哈密，兀纳失里携眷逃跑。洪武二十五年（1392年），兀纳失里贡骡马请罪，太祖许其复国为王。洪武二十六年（1393年），兀纳失里死，其弟安克帖木儿继肃王位。
永乐元年（1403年），明成祖朱棣特许安克帖木儿“以马市易”，首次贡马4740匹，明朝政府照价付值。永乐二年（1404年），诏封安克帖木儿为忠顺王，并在此地设置哈密卫。此时，嘉峪关以西有七个卫所：哈密卫、安定卫、阿端卫、赤斤蒙古卫、曲先卫、罕东卫、罕东左卫，其中哈密卫最西。此地向东一千五百里抵达肃州、向西一千五百里抵达土鲁番，向北数百里抵达瓦剌，并以天山为边界 。永乐三年（1405年），安克帖木儿卒，诏封安克帖木儿兄子脱脱为忠顺王。永乐四年（1406年），置哈必卫，设指挥、千户、百户等官，又以周安为忠顺王长史，刘行为纪善辅政。永乐九年（1411年），脱脱暴死，诏封脱脱从弟兔力铁木儿为忠义王。永乐十年（1412年），哈密卫增设僧纲司，专管佛教事务。永乐十二年（1414年），员外郎陈诚，户部主事李暹出使西域，途经哈密，次年返回。明洪熙元年（1425年），哈密上贡硫磺，明仁宗称哈密必须开始设置边防 ，同年兔力铁木儿死。次年，诏封脱脱子卜答失里嗣忠顺王。
宣德三年（1428年），因卜答失里年幼，诏命兔力铁木儿之子脱欢铁木儿为忠义王，同理国事。正统二年（1437年），脱欢铁木儿死，诏封其子脱脱塔木儿为忠义王。不久亦死。正统四年十二月（1440年），忠顺王卜答失里死后，诏封其子倒瓦答失里为忠顺王。
