甘霖古称两头门，宋时属桃源乡，清康熙时称两头门镇。嘉庆初年遇大旱，知县沈谦率众去南山天兴潭请龙求雨，返至两头门，天色骤变，乌云密布、雷电交加，大雨倾盆而至，为示纪念，遂改名甘霖。宣统三年（1911），甘霖与苍岩合称霖苍镇。
民国元年（1912），霖苍镇辖桃源、白鹤、方升、平义区。民国21年6月，4区合并设置第2区，辖25个乡和甘霖、博济、苍岩镇。35年9月撤区并乡镇，设6个乡，甘霖镇归属桃源乡。 甘霖镇辖2个居委会、154个行政村：桃源居委会、博济居委会、甘一村、甘二村、甘三村、桃源村、白泥墩村、外宅村、孙村村、黄郎地村、金家沿村、东湖村、官屋基村、大砩口村、高建村、雅境村、叶家田川村、沈家村、梅涧桥村、西京村、珏芝村、姜家村、寺前村、上屋村、江田村、东梅村、横山坂村、马塘村、上坂洋村、下洋村、兴王村、上沙坂村、东山楼村、后宅园村、下倪村、后朱村、雅言楼村、吴家田村、尹家村、西山楼村、上杜山村、湖岭口村、西湖头村、前朱村、求家坎村、东泉村、雅沈村、俞家砩村、赵家村、黄胜堂村、上王村、戚家村、乌榆湾村、童家村、下杜山村、建安村、柳岸村、俞家村、后庄村、后爱坂村、湖嘴头村、东山村、塘下村、东王村、蛟镇村、倪家渡村、上高村、前王村、祝村村、横山头下村、新溪滩村、新桥头村、甲秀坂村、杜暮头村、查村村、过村村、西吴村、笆脚外村、义家桥村、黄箭坂村、下吴村、福泉山村、袁村村、建明村、下路西村、东张村、渭沙村、孔村村、后史村、下沙地村、冯家潭村、西郑家村、上沙地村、宅根村、花桥村、上朱村、水路坂村、楼下村、西叶家村、西王村、张钱村、湖前村、郑庄村、宋家村、下塘头村、沙田坂村、上塘头村、湖坊村、淡溪湾村、罗村村、黄泥山村、新建庄村、陈家村、下蔡村、大王田湾村、里塘底村、上蔡村、前王村、朝日山村、上路西村、苍岩一村、苍岩二村、苍岩三村、苍岩四村、杨家屋村、楼盛村、黄泥岗村、田东村、长安村、犁头嘴村、石溪坂村、大岩湾村、菜子湾村、杨柳湾村、高童村、施家岙村、石宕村、长安后村、大坑村、小坑村、金横村、求杓湾村、道步湾村、后门湾村、丽湖村、殿前村、和尚田村、下岙村、外坪村、石岱山村、罗家山村、王树坪村、石道地村、浙溪村、毫岭村、大岩坂村。
2007年，甘霖镇由原来154个行政村调整为72个行政村。 1.上蔡村：由原上蔡、朝日山、里塘底3个村合并组成。共计458户、1138人口，总区域面积3平方千米，村委会驻原上蔡村。
2.上路西村：由原上路西、陈家2个村合并组成。共计741户，1978人口，总区域面积2.5平方千米，村委会驻原上路西村。
3.楼下村：由原张钱、楼下、湖前3个村合并组成。共计458户，1182人口，总区域面积1.5平方千米，村委会驻原楼下村。
4.下沙地村：由原下沙地、宅根、水路坂3个村合并组成。共计354户，918人口，总区域面积1.4平方千米，村委会驻原下沙地村。
5.东张村：由原东张、黄泥山、新建庄、沙田坂4个村合并组成。共计575户，1565人口，总区域面积2.1平方千米，村委会驻原东张村。
6.上塘头村：由原上塘头、下塘头、淡溪湾、宋家4个村合并组成。共计667户，1741人口，总区域面积1.98平方千米，村委会驻原上塘头村。
7.西叶家村：由原叶家、西王2个村合并组成。共计540户，1410人口，总区域面积1.8平方千米，村委会驻原叶家村。
8.孔村：由原孔村、渭沙、花桥3个村合并组成。共计698户，1833人口，总区域面积1.9平方千米，村委会驻原孔村。
9.后史村：由原后史、郑家、冯家潭3个村合并组成。共计357户，939人口，总区域面积3.1平方千米，村委会驻原后史村。
10.苍岩村：由原苍岩一村、苍岩二村、苍岩三村、苍岩四村4个村合并组成。共计1370户，3734人口，总区域面积5.1平方千米，村委会驻原苍岩四村。
11.殿前村：由原殿前、高童、杨家屋3个村合并组成。共计797户，2193人口，总区域面积6.25平方千米，村委会驻原殿前村。
12.大岩坂村：由原大岩坂、大岩湾2个村合并组成。共计196户，567人口，总区域面积1.75平方千米，村委会驻原大岩坂村。
13.施家岙村：由原施家岙、石宕、下岙、楼盛、黄泥岗5个村合并组成。共计449户，1268人口，总区域面积6.86平方千米，村委会驻原施家岙村。
14.长安村：由原长安、后村、梨头嘴3个村合并组成。共计533户，1504人口，总区域面积2.92平方千米，村委会驻原长安村。
15.石坪村：由原石溪坂、石岱山、外坪3个村合并组成。共计448户，1222人口，总区域面积5.5平方千米，村委会驻原石岱山与外坪交界处。
16.大小坑村：由原大坑、小坑、金横、罗家山、王树坪5个村合并组成。共计494户，1307人口，总区域面积5.4平方千米，村委会驻原大坑与小坑交界处。
17.石道地村：由原石道地、浙溪、杨柳湾3个村合并组成。共计609户，1744人口，总区域面积5.3平方千米，村委会驻原石道地村。
18.求杓湾村：由原求杓湾、道步湾2个村合并组成。共计232户，689人口，总区域面积3.3平方千米，村委会驻原求杓湾村。
19.毫岭村：由原毫岭、菜子湾、后门湾3个村合并组成。共计395户，1076人口，总区域面积3.68平方千米，村委会驻原毫岭村。
20.官珏村：由原珏芝、官屋基2个村合并组成。共计319户，968人口，总区域面积1.4平方千米，村委会驻原珏芝村。
21.甲秀坂村：由原甲秀坂、新桥头、新溪滩3个村合并组成。共计478户，1292人口，总区域面积1.5平方千米，村委会驻原甲秀坂村。
22.芭脚外村：由原芭脚外、西吴、前王3个村合并组成。共计315户，827人口，总区域面积1平方千米，村委会驻原芭脚外村。
23.义杜村：由原义家桥、杜暮头2个村合并组成。共计305户，809人口，总区域面积0.9平方千米，村委会驻原杜暮头村。
24.东湖村：由原东湖、西京2个村合并组成。共计304户，837人口，总区域面积1.13平方千米，村委会驻原东湖村。
25.过祝山村：由原横山头下、祝村、过村3个村合并组成。共计375户，1058人口，总区域面积1.1平方千米，村委会驻原横山头下村。
26.前后朱村：由原后朱、前朱2个村合并组成。共计317户，913人口，总区域面积1.4平方千米，村委会驻原后朱村。
27.福宅安村：由原外宅、建安、福泉山3个村合并组成。共计446户，1250人口，总区域面积4.5平方千米，村委会驻原外宅村。
28.孙屋村：由原孙村、上屋2个村合并组成。共计487户，1286人口，总区域面积2.06平方千米，村委会驻原孙村。
29.桂山村：由原上杜山、下杜山、后宅园3个村合并组成。共计543户，1520人口，总区域面积1.15平方千米，村委会驻原上杜山村。
30.东雅后俞村：由原东山楼、俞家、雅境、后庄4个村合并组成。共计611户，1676人口，总区域面积3.2平方千米，村委会驻原东山楼村。
31.西叶村：由原西山楼、叶家圳2个村合并组成。共计724户，1852人口，总区域面积2.2平方千米，村委会驻原西山楼村。
32.上高村：由原上高、茶场、横山坂3个村合并组成。共计508户，1424人口，总区域面积1.61平方千米，村委会驻原上高村。
33.黄箭坂村：由原黄箭坂、下倪、下吴3个村合并组成。共计636户，1841人口，总区域面积2.76平方千米，村委会驻原黄箭坂村。
34.蛟镇村：由原蛟镇、倪家渡、金家沿3个村合并组成。共计423户，1160人口，总区域面积1.4平方千米，村委会驻原蛟镇村。
35.黄塘岭村：由原塘下、湖岭口、黄郎地3个村合并组成。共计312户，902人口，总区域面积1.64平方千米，村委会驻原塘下村。
36.东王村：由原东王、梅涧桥2个村合并组成。共计333户，920人口，总区域面积3.75平方千米，村委会驻原梅涧桥村。
37.东山村：由原东山、沈家、东梅3个村合并组成。共计552户，1472人口，总区域面积2.2平方千米，村委会驻原东山村。
38.后袁湖村：由原后爱坂、袁村、湖嘴头3个村合并组成。共计430户，1117人口，总区域面积1.73平方千米，村委会驻原后爱坂村。
39.甘一村：由原甘一、吴家田2个村合并组成。共计532户，1370人口，总区域面积2平方千米，村委会驻原甘一村。
40.黄胜堂村：由原黄胜堂、上王2个村合并组成。共计515户，1366人口，总区域面积1.6平方千米，村委会驻原黄胜堂村。
41.俞赵村：由原俞家砩、赵家2个村合并组成。共计300户，861人口，总区域面积1.3平方千米，村委会驻原两村交界处。
42.士明村：由原上沙坂、戚家、高建、寺前4个村合并组成。共计303户，870人口，总区域面积1.72平方千米，村委会驻原寺前村成人中专学校。
43.甘霖新村：由原甘二、东泉、童家3个村合并组成。共计340户，880人口，总区域面积0.9平方千米，村委会驻原三村交界处。
44.姜王村：由原兴王、姜家2个村合并组成。共计250户，710人口，总区域面积1.1平方千米，村委会驻原姜家村。
45.尹家村：由原尹家、乌榆湾2个村合并组成。共计602户，1594人口，总区域面积3平方千米，村委会驻原尹家村。
46.前王、下蔡、罗村、湖坊、郑庄、上沙地、大王庙、下路西、上朱、大王田湾、丽湖、和尚田、田东、下洋、雅言楼、查村、马塘、白泥墩、江田、柳岸、西湖头、雅沈、大砩口、甘三、求家坎、上八洋、桃源等27个行政村其规模和村名保持不变。
