开封府的机构主要有：
知府。是开封府的行政长官。
左右厅，各厅分置一员判官，一员推官，主管刑事案的推鞫，即庭审。
使院，亦称南司，由一名判官兼领之，主持除刑狱讼诉之外的开封府行政公务，“每日行谴钱谷税赋及刑狱诸般文书”。
司录司，亦称府院，长官为司录参军，掌管婚户田宅之讼，兼领六曹行政事务。
六曹，即功曹、仓曹、户曹、兵曹、法曹、士曹，每曹各设一员长官，叫做“参军”， 功曹参军掌管官吏考课、公共教育等；仓曹参军掌公廨修缮、后勤、仓厨等；户曹参军掌户籍、账册、赋税等；兵曹参军掌武官考选、兵甲器杖等；法曹参军掌检定法律等；士曹参军掌舟车、宅舍等。
左右军巡院，每院各置一员军巡使、一员军巡判官，掌管发生在京城的争斗案件及推鞫之事。
左右厢公事干当官，掌管发生在京城的争讼，处理轻微案件。
此外，开封府还设有架阁库（档案馆）、府学，以及一些经济部门，如主管公租屋的楼店务。
由于宋代的开封府已沉入地下，被泥土所覆盖，我们已见不到北宋开封府衙的真实布局。不过，宋代各州府虽然整体规模各有差异，但内部布局毕竟是大同小异的，所以根据史料可以推知开封府衙内部的大体结构。
一般来说，宋代府州衙门都有一个雄伟的府门，穿过府门，为仪门，仪门东西两侧通常是办理具体公务的职能部门，如左右司理院等。
仪门之后是州府长官的办公大厅，叫做“设厅”。设厅与仪门之间，通常还有一块戒石，上刻“尔俸尔禄，民膏民脂，下民易虐，上天难欺”十六字铭文。现在开封府的景区“开封府”中也有一块戒石，但其正面铭刻的“公生明”铭文，却不是宋朝风格。
设厅的两侧，一般也是各个职能部门，如府院、州院、司法厅、司户厅、佥厅、节推厅、察推厅等，以及储放公共物资的库房，如军资库、甲仗库、常平库、架阁库、公使库、钱库等。设厅后面，通常是州府长官生活起居的地方，还有州府的公园——郡圃。
南宋时编撰的《咸淳临安志》与《景定建康志》，都非常详细介绍了临安府、建康府的机构配置与建筑布局，并附有“府治图”、“府廨之图”，我们可以根据相关文献与图像脑补出开封府的整体布局。
