在唐朝贞观十四年（640年），侯君集攻克高昌后，设立了西州都护府，其总部设在西州，主要针对西突厥。同年9月，为了加强管理，安西都护府在交河城（今新疆吐鲁番西雅尔郭勒）建立，首任都护为乔师望，初始兵力规模较小。随着郭孝恪在贞观二十二年（648年）击败龟兹国，都护府迁至龟兹（今库车县），并进一步发展为大都护府。
显庆二年（657年），苏定方平定阿史那贺鲁的叛乱，将安西都护府迁回高昌故地。显庆三年（658年）五月，又迁至龟兹，安西都护府的管辖范围扩大至葱岭东西部，直至波斯，成为唐朝直接统治的重要区域。在武则天辅政时期，唐朝在突厥故地设立了蒙池和昆陵都护府，同时加强行政管理，扩大了对中亚地区的控制。
显庆五年（660年）和龙朔元年（661年），唐朝加强对葱岭以西的管理，设置了多个州县。龙朔二年（662年）之后，吐蕃与唐朝在安西四镇争夺激烈，直至唐朝德宗贞元六年（790年），四镇完全陷落。安西都护府曾在咸亨元年（670年）被吐蕃攻陷，唐朝多次放弃和收复，最终在长寿元年（692年）王孝杰收复四镇，并在龟兹恢复了都护府。
长安二年（702年），北庭都护府成立，安西大都护府的管辖区域有所调整，以应对吐蕃对丝绸之路的威胁。尽管安西都护府经历了多次变迁和战争，但其精锐骑兵“安西兵”在至德年间参与平定安史之乱，为唐朝立下功勋。然而，随着唐朝与安西的通道中断，吐蕃逐渐占据了优势。
唐德宗时期的建中元年（780年），李元忠和郭昕坚守各自的防区，直到贞元六年（790年）北庭失陷，唐朝与安西失去联系。安西最后的陷落时间虽然没有确切记录，但学者推测可能在唐宪宗元和三年（808年）。于阗在贞元六年陷落，标志着安西都护府的最终衰落。
安西都护府和安西大都护府乃是唐朝管理碛西的一个军政机构的不同时期的名称，其统辖安西四镇，最大管辖范围曾一度完全包括天山南北，并至葱岭以西至达波斯，在武周时代北庭都护府分立之后，安西都护府分管天山以南的西域地区。