1982年，中央军委任命谢振华为昆明军区政治委员。年底，总政通知，谢振华出任中共昆明军区党委常委会党委书记。
1985年，百万大裁军开始了。中央军委最后决定保留北京、沈阳、济南、广州、兰州、成都军区，撤并乌鲁木齐、武汉、福州、昆明军区。当谢振华离开昆明军区后，婉拒了大军区正职岗位。邓小平获悉了此事后，特地对他提出了表扬。
谢振华对邓小平的指示是拥护的。谢振华曾这样说：“我曾在小平同志麾下战斗和工作，聆听教诲，获益颇丰，终身难忘。”
1977年，邓小平身兼四职，既是中共中央副主席、中央军委副主席、又是国务院副总理，还兼任解放军总参谋长。同年，罗瑞卿被任命为中央军委秘书长，成为了邓小平的得力助手。
当时，百废待兴。邓小平、罗瑞卿深感用人的重要。于是，在随后召开的军委座谈会上，罗瑞卿提出要提拔一批德才兼备的年轻干部，还要起用一批年富力强的开国良将。这一动议，得到了邓小平的首肯。
在这样的大背景下，“赋闲”的谢振华被罗瑞卿安排到了沈阳军区。罗瑞卿给的理由是，只有派像谢振华这样军政全能的将军“重拳出击”，才能将这个地区的部队快速地带上革命化、正规化的建设大道上。
12月23日，北京军区副司令员谢振华调任沈阳军区副司令员。这时，有“拼命三郎”之称的罗瑞卿，因疲劳过度，住进了解放军总医院治疗。谢振华闻讯后，立马前往看望。
来到病床前，谢振华向罗瑞卿敬了一个军礼，问候道：“秘书长，我来看您来啦。感冒好点没有？”
罗瑞卿看到谢振华来到，紧紧地握住了他的手，风趣地说：“你来看我，这病就好了一大半了。”
寒暄过后，罗瑞卿嘱咐谢振华，去了以后要好好干，一切务必听从中央军委、邓小平同志的命令。谢振华用劲儿地点了点头。
告别了罗瑞卿，谢振华立即整理行装，恨不得今日就飞往沈阳。当时，沈阳军区司令员李德生在北京开会，谢振华主动找上门去，向这位今后的上级、搭档打了招呼。
李德生对谢振华的到来，表示了欢迎。此时距离元旦仅有一周的时间了，李德生考虑到谢振华夫妇与孩子们已经好几年没过团圆年了，就让他晚一点儿再去赴职。
谢振华则表示，既然命令已经下达了，还是去为妥当。
李德生劝慰他：“部队有很多事要等着你去做，但是家人也需要你的陪伴。今年一定要安稳地过个团圆年，这样更有利于你今后踏实工作。”
谢振华很是感动，表示听从安排。
1978年1月8日，谢振华和李德生一起，同机飞赴沈阳。到达军区后，谢振华几乎没有休息，便分别从正面和侧面了解军区的各方面情况。接着，谢振华召开会议，讨论现存的问题，并开始着手一一解决。期间，他特地提出，根据新形势，要尽快组建一批新学校。
对于办学，邓小平说，教师很重要，要选好，要有一个好的教学队伍。学校领导可以兼课，大军区和所属部队的领导也都可以兼课。对此，谢振华表示，他也会抽出时间兼一些课。
与此同时，军区还恢复或组建了步兵学校、炮兵学校、通信学校、卫生学校、后勤学校等，为部队现代化建设培养优秀的后备人才。
接着，就“整军”问题，谢振华考虑从驻长春的第16军开始。对于16军，谢振华是比较熟悉的。该军47师的前身之一，是以红3军团第12团为骨干组建的老部队。而谢振华曾任红12团2营教导员，在夺取娄山关、占领遵义城的战斗中，打出了气势，打出了威风。所以，谢振华与16军有着紧密的联系。
谢振华到16军后，指战员把他当做老前辈、老首长热情接待。他也把自己当做这支部队的老战士，并且有一种回“娘家”的感觉。当然，越与部队有联系，谢振华对其越严格要求。
谢振华带军区工作组首先组织召开了军党委扩大会议。会上，他发表了讲话，说： “邓小平副主席在军委全体会议上作了重要指示，主要讲了五个方面。一是整顿领导班子问题，二是关于形势问题，三是关于把军队办成一个大学校的问题，四是关于纪律问题，五是关于团结问题。”
针对“整顿领导班子”，谢振华在掌握了16军的基本情况后，调39军政委彭仲韬任16军政委；16军副军长刘凤鸣升任该军军长；16军参谋长朱敦法升任该军副军长；调军区炮兵司令部副参谋长李德功升任16军参谋长；调军区保卫部部长赵万夫升任16军政治部主任。
后来，在新的军党委领导班子带领下，16军的军、政训练取得了可喜的成绩。3年后，朱敦法升任16军军长。由于他年轻、工作有成绩，不到几年时间，又升任沈阳军区副司令员、广州军区司令员，后调国防大学任校长，1995年晋升为上将军衔。
1982年，66岁的谢振华当选为中共十二届中央委员。不久，中央军委任命他为昆明军区政治委员。
在上任前，杨得志总参谋长、总政治部余秋里主任、杨勇副总参谋长等首长，均亲自与谢振华谈话，给他交代任务： “昆明军区地处越南、老挝、缅甸三国邻界，军内安定团结十分重要。当前，要统一军内思想，作好对敌反击作战的准备。”
谢振华到昆明后，便马不停蹄地与军区原第一政委刘志坚进行任务交接。两个人曾是红3军团的老战友，感情非常深厚。此时，刘志坚已奉命调任解放军政治学院院长兼政委。
刘志坚对谢振华说：“昆明军区今后就交给你了。”谢振华回答道：“放心吧。”
谢振华到任没多久，就开始大兴调查研究之风。他亲自率工作组深入到团以上部队考核干部。据身边人记录，半年的时间里，谢振华深入部队100多天，走遍了驻云南边防的所有团以上单位，以及80多个县的武装部。
通过实际调查，谢振华对军区的工作获得了主动权。诸如，他报请中央军委批准把40多岁的优秀师长廖锡龙直接提升为军长。廖锡龙在对越自卫还击战中一战成名，他指挥打仗不仅勇猛、果决，更重要的是，他注重谋略，敢于用兵。
谢振华对廖锡龙的德才十分赏识，对其评价是：德才兼备，经过军事指挥院校培训，并经受了实战考验，具有较好的现代军事科学知识和组织指挥才能。1995年，廖锡龙被任命为成都军区司令员。2000年，廖锡龙被授予上将军衔。
在谢振华等人的努力下，全军区经过调整，野战军师的领导班子平均年龄为42岁左右，团领导班子平均年龄为32岁左右。
接下来，谢振华把工作的重点放在了侵占我老山、者阴山的越军身上。1984年，按照中央军委的命令，昆明军区组织指挥了对侵占我西南边陲的田蓬、船头、马林、都龙、桥头、那发等地区，以及老山、者阴山之敌发起自卫还击作战。
战前，谢振华与军区党委副书记、司令员张铚秀，经常一起或分头到云南边防前线视察，特别对老山、者阴山这些被敌人侵占的重要地域，进行了细致的观察和透彻的分析。
回去后，谢振华组织召开了军区党委扩大会议。在会上，他说： “这是自1979年以来，我军进行的第3次较大规模的自卫还击作战，主要目的是为了打击敌军的嚣张气焰，保卫边疆安全，改善防御态势，用事实证明，中国人民解放军是常胜的威武之师，中国领土是神圣不可侵犯的。”
谢振华的话，激发起指战员们的热血斗志。
尔后，在研讨作战方案时，谢振华坐在大型沙盘前，听取了14军军长刘子波和11军军长马秉臣的发言。
14军和11军都是当年刘邓大军麾下能征善战的王牌部队。14军的前身是陈赓率领的晋冀鲁豫野战军第4纵队主力1部；11军的前身是陈锡联指挥的晋冀鲁豫野战军第3纵队。
听了2个军的汇报，谢振华比较满意，对个别战术安排作了调整。末了，谢振华强调： “打击这样的敌人一定做到狠、准、稳，出拳要重，要一下子砸得它稀里哗啦，没有还手的机会。这次行动，我们是先收复，后保卫。收复的时候迅速果断，保卫的时候坚决顽强。”
为了有效地打击敌人，昆明军区炮兵部队奉命提前于4月2日和3日，连续向老山、者阴山之敌30多个目标进行炮击。在战斗发起总攻的前一晚，谢振华到14军指挥所听取刘子波军长汇报作战部署。
经过分析后，谢振华认为现设的指挥所位置，很可能就是第2天战斗打响后，敌人进行炮火打击的重点。于是，他对刘军长说：“应该把指挥所在今晚搬迁到山后800多米的山洞内，另外在山上可以设一个观察所，作为辅助。”
刘军长从指挥靠前的角度看，不愿往后搬。他说：“指挥所的防御工事已修好，通讯设施也埋在地下，还有作战沙盘等等都已设置齐备。敌人的炮火未必能轰掉我们的地下设施。政委，我看还是不搬为好。”
谢振华坚持说：“为了保证指挥所的稳定，我认为还是非搬不可，否则会出大问题。”
尔后，刘子波认真执行了谢振华的指示。果不出所料，第2天清晨，敌人的炮火就朝着14军原指挥所袭来。事后，大家叹服：“谢政委真是神机妙算！”
4月28日凌晨，谢振华亲自坐镇作战室，指挥这次自卫还击作战。在谢振华等人的指挥下，40师9小时收复老山，31师6小时全歼者阴山之敌。为了长期坚守边境阵地，中央军委又电令调陆军第1军等部队赴云南中越边境执行战斗任务。
1军军长傅全有接到命令后，立即率部风尘仆仆赶赴前线。来到指挥所后，他马上向军区首长报到，领受战斗任务。谢振华对傅全有是了解的，知道他是一个敢打善拼的好战士。
1984年9月10日，中央军委主席邓小平发布嘉奖令，通令嘉奖参加老山、者阴山自卫还击战的全体指战员和民兵、民工。
9月14日，邓小平又发布命令，授予昆明军区参战部队的6个单位和10名个人荣誉称号。9月15日，昆明军区召开“两山”作战庆功大会。谢振华主持了庆功大会，并致开幕词。他说： “昆明军区圆满完成了党中央、中央军委赋予的还击作战的任务，取得了重大胜利，打出了国威、军威！”
之后，谢振华以《气壮山河的英雄凯歌》为题，写了长篇文章，赞扬“两山”作战的英雄们。
1984年11月，邓小平召集三总部领导，还有空军、海军、第二炮兵、国防科工委和11个大军区的司令员、政委们，在北京京西宾馆举行了一场军委座谈会。
会上，邓小平发表了90分钟的讲话，阐述了一个高瞻远瞩的战略决定：“军队要大量裁减员额！”此时，在会议厅里，谢振华边听边记，心想：这次定会是个大动作。
尔后，在工作开展中，总参谋部的初步方案是，撤销成都军区，组成新的昆明军区，合并后的军区领导机关设在昆明。
谢振华则认为：云南地处缅甸、老挝、越南三国交界处，目前我国与缅甸、老挝两国关系较好，就越南而言，经过前段在边界作战中的教训，他们虽不甘心，也只好是就此罢休。边境已相对稳定。
就成都方面而言，目前担负着保卫西藏守备边疆的重任，且成都是西南地区的中心，俗称天府之国，历来为军事重地。因此，从战略上考虑，谢振华认为，合并后的军区机关把点定在成都也是适宜的。
后来，中央军委“撤昆明留成都”的决定，与谢振华分析的情况差不多。由于他有准备，所以很快能够从不平稳的情绪中解脱出来。他明确的表示，拥护中央军委的最后决定。
对于两大军区整编后的主要领导的任用，谢振华向军委建议：第1军军长傅全有可以作为成都军区新班子司令员；有突出战绩的11军军长廖锡龙到成都军区任副司令员。
对于他自己的去向，上级问他是否愿意去军事科学院工作？那个时候，军队精简整编后，一两年内将恢复军衔制，只要留任大军区正职工作的，都会被授予上将军衔，而退离一线的，不论是老少将，还是老中将，将一律不再授予军衔。这些，谢振华都非常清楚。
不过，谢振华想得更多的是，回到昆明如何能把精简整编搞好，把数以万计的干部怎么安排好。所以，他向军委领导说：
邓小平得知后，对他进行了表扬，说：“他带了个好头。”
两大军区合并半年多，谢振华率领善后办的同志，做了许多工作，发挥了纽带作用。截止到1986年6月3日，谢振华终于圆满地完成了 历史 使命。
谢振华将军值得我们永远怀念！