1914年
生于安徽省金寨县代家岭贫苦农民家庭。幼年父亲早逝，母亲改嫁，与祖母相依为命，讨过饭，给地主放过牛。13岁参加当地农民协会。
1928年加入中国共产主义青年团。曾任乡童子团中队长、县童子团团长。 1929年12月参加中国工农红军。
1931年3月转入中国共产党。曾在红四方面军任连指导员、营教导员，参加了鄂豫皖苏区反“围剿”、川陕苏区反“围攻”。
1932年10月随军西征入川。
1933年任红四方面军第十二师三十四团三连政治指导员。
1934年任第三十五团二营教导员、红九军军部交通队政治指导员。参加创建川陕革命根据地和多次反“围攻”作战。
1935年5月参加二万五千里长征，任红军大学上级指挥科副科长、步兵学校营长。到陕北后，任教导师第2团团长。
1936年7月任红军大学步兵学校第一营营长，10月长征到甘肃会师。
1937年1月任庆阳步兵学校(教导师)第二团团长。
抗日战争爆发后，任八路军第129师特务团团长、太行军区第五、第七军分区司令员。
1940年2月任太行军区第五军分区司令员。
1943年3月任太行军区第七军分区司令员。
1944年8月奉命组建豫西抗日游击支队（即第1支队），任司令员，率部挺进豫西，仅经月余奋战即在豫西站稳了脚跟，打开了抗日局面，随后会同第2、第3、第4支队建立了豫西抗日根据地。
抗日战争胜利后，任中原军区第1纵队1旅旅长。解放战争初期任中原军区第一纵队第一旅旅长。
1946年6月在中原突围中，指挥所部第1旅担任掩护中原军区主力向西突围的艰巨任务，尔后率部向东转移，继续迷惑、牵制国民党军对兄弟部队的追击。期间，他率孤军作战，足智多谋，巧妙指挥部队抢关夺隘，穿插于敌军重兵集团之间，经20余天连续奋战，冲破国民党军的堵截、封锁，胜利抵达苏皖解放区。从此1纵1旅这支部队被人们称为“皮旅”，“皮旅”成为名震华夏的英雄部队。
1947年1月奉调离开“皮旅”，先后任华东野战军第6纵队副司令员、第三野战军24军副军长、军长，参加了孟良崮战役、莱芜战役、豫东战役、淮海战役、渡江战役等战斗。
1949年9月任第三野战军第二十四军军长。
新中国成立后，任第24军军长兼政治委员。
1952年参加抗美援朝战争，任中国人民志愿军第9兵团第24军军长兼政治委员，率部参加了夏季反击作战，荣获朝鲜民主主义人民共和国一级国旗勋章、一级自由独立勋章。
1953年回国后，任福州军区副司令员，曾入高等军事学院学习。
1955年9月被授予中将军衔，获二级八一勋章、一级独立自由勋章、一级解放勋章。
1969年起任兰州军区、福州军区司令员。
1976年7月7日在福建指挥军事演习时因直升机失事，不幸遇难殉职。
1977年皮定均将军的骨灰被安放到北京八宝山革命公墓。后应豫西老根据地群众的要求，部分骨灰安葬在登封革命烈士陵园，部分骨灰依照皮定均夫人张烽的愿望，安葬在飞机坠毁的灶山之巅。
2000年5月30日民政部颁发了皮定均将军的革命烈士证明书。
