汉高祖从齐郡分置平原郡，武帝元朔三年（前126年），封济北王子侯国安阳、羽，属平原郡。其后割平原郡北部数县属勃海郡。汉昭帝元凤六年（前75年），徙陈留郡富平侯国於厌次县。汉成帝绥和元年（前8年），平原郡领十九县：平原、鬲、高唐、重丘、平昌侯国、羽侯国、般、乐陵、祝阿、瑗、阿阳、漯阴、朸、富平侯国、安悳、合阳侯国、楼虚侯国、龙頟侯国、安侯国。郡治在平原县，都尉治所在乐陵县。隶属於青州刺史部。汉平帝元始二年（2年），全郡有154387户，664543人。
王莽改平原为河平。两汉之际，平原郡为张步所据。东汉初，省并重丘、羽、瑗、阿阳、朸、合阳、楼虚、龙頟、安等九县。朝阳县由济南郡来属，後改名为东朝阳县。光武帝、章帝时，祝阿、安德、东朝阳、西平昌、漯阴五县两次改属济南，其後又两次还属平原。汉明帝时改富平侯国为厌次侯国。汉殇帝延平元年（106年），封和帝兄刘胜为平原王，置平原国。汉安帝建光元年（121年），平原国除为郡。汉顺帝永和五年（140年），平原郡领平原、高唐、般、鬲侯国、祝阿、乐陵、湿阴、安德侯国、厌次侯国、西平昌十县。汉桓帝建和二年（148年），复置平原国。汉献帝建安十一年（206年），平原国除为郡。建安十八年（213年），曹操分平原郡、乐安郡与勃海郡数县置乐陵郡。平原郡之乐陵、厌次两县改属乐陵郡。
晋朝改为平原国。宋、后魏、后周复名为平原郡，隋初废平原郡，置德州，炀帝又复名为平原郡。唐朝再置德州，其后或为平原郡。
东晋永和七年（351）置，治龙乡县（(今广东罗定市罗镜、太平一带)。领龙乡县、平原县。属广州。梁天监六年（507） 领龙乡县、永业县。属泷州。陈废。
刘宋武帝于梁邹县旧城（治所在今山东邹平县韩店镇旧口村）侨立平原郡，属侨置冀州。北魏皇兴三年（469年），改平原郡为东平原郡，属齐州。开皇三年（583年） ， 东平原郡废除。
