1938年10月，为适应抗日战争的需要，苏鲁豫皖边区省委决定创建边区省委党校，其初始目的是为了党的事业发展。党校校长由省委书记郭洪涛兼任，公开名称为山东抗日军政干部学校分校，位于沂水县白佛寺（现址为沂南县石旺庄）。
1938年12月，随着中央决定，边区省委党校更名为山东分局党校，校址经历了多次迁移，从白佛寺迁至沂水县朱位和夏蔚。1939年10月，郭洪涛赴延安，党校校长由朱瑞接任，肖华任副校长。1940年12月，根据中央指示，建立了山东分局高级党校，朱瑞继续担任校长，肖华任副校长。
1949年9月，随着山东分局筹建党校，彭康任校长，党校迁至济南市经八纬一路（现为省委机关大院），1951年迁至经七纬八路。1955年，中共山东分局改名为中共山东省委，党校也随之更名为中共山东省委党校，夏征农任校长，负责中级党校的合并和中级干部培训。
1957年7月，党校归山东省委管理，1958年正式定名为中共山东省委党校。此后，党校校长由任质斌、王众音等多位领导担任，现任校长为姜异康，常务副校长为安世银。党校的历史沿革见证了山东省委在不同阶段对干部教育的重视和调整。
中共山东省委党校是在省委直接领导下培养党员领导干部和理论干部的学校，是省委的重要部门，是培训轮训全省党员领导干部的主渠道，是党的哲学社会科学研究机构。引全校现有在职教职工383人。创建于1938年10月，是全国建立较早的省级党校之一。前身为中共苏鲁豫皖边区省委党校、中共中央山东分局党校、中共中央山东分局高级党校、中共中央第四中级党校。