彭玉麟一生充满传奇色彩。早年是个书生，后投笔从戎，加入湘军。由于他在与太平天国军队的作战中骁勇善战，善于谋略，富于创新，咸丰三年（1853年），曾国藩让他创立了湘军水师，购买洋炮，制造大船，训练将士。第二年他率领湘军水师于湘潭败太平军，后随军攻陷岳州，在武汉、田家镇连败太平军水师。后来率湘军水师在湖口被石达开打败。于是整顿水师，配合陆军于大败太平军于樟树镇、临江等地。接着，率湘军水师攻占湖口、九江、安庆，升任水师提督兼兵部右侍郎。在攻占天京（今南京）的战役中，亲率水师策应曾国荃陆师沿长江东下，堵截天京护城河口。第二年他攻下江浦、九洑洲、浦口，断绝了天京粮道，成为攻陷天京的大功臣。
在剿灭了太平天国后，他一心扑在清军长江水师的建设中，为清军这支水师呕心沥血，鞠躬尽瘁。后来长江水师被李鸿章全盘接收，成为北洋水师最主要力量。彭玉麟成为近现代中国海军的创始人。 彭玉麟多才多艺，诗书画俱佳，他一生画了上万幅梅花图，在每幅梅花图都题上以梅花寄情的咏梅诗。这些号称“梅花百韵”的咏梅诗，寄托了彭玉麟一生对梅姑的爱恋、思念、牵挂、自己的愧疚和悔恨。他所画之梅堪为一绝。笔下的梅花“老干繁枝，鳞鳞万玉，其劲挺处似童钰”，被称为“兵家梅花”，与文人墨客的梅花相去甚远。他画的梅树，身姿虬曲，铁骨铮铮，古拙苍劲。枝间的梅花，吐蕊绽放，生机盎然。
特别是他的“墨梅图”更是冠绝，与郑板桥的墨竹齐名，被称为“清代书画二绝”。入选“衡阳民间国宝”的《墨梅图》就是一幅画梅杰作。该画以水墨绘一老梅蜿蜒横斜，上不见结顶，下不见根底，主干铁骨挺拔，周身苍皮藓苔，枯眼斑斑。虬枝曲折盘环，枝蕊参伍交错，给人以老树繁花、生机勃勃的感觉。画上题诗，让人更能体悟到“儿女心肠，英雄肝胆”的意境。 彭玉麟于军事之暇，喜绘画，以画梅名世，据称是思念梅姨之爱情之物，“老干繁枝，鳞鳞万玉，其劲挺处似童钰”。1946年罗尔纲考证，梅姑本是彭玉麟外祖母的养女竹宾，以辈分而言，可以说是彭玉麟的长辈（阿姨），较彭玉麟年长几岁，人称梅姑，据说彭玉麟称她“姑姑”，两人年纪相约，青梅竹马，情愫渐生，至私许终身。后来，两人始终未有结合，原因表面上是八字不合，真正的理由却是辈分。后来，在彭母的主持下，梅姑嫁到别家姚氏，四年后死于难产，彭玉麟闻讯身心俱裂，哭吟“一生知己是梅花”，并发誓要用余生画十万梅花以纪念两人之情。他每画成一幅，必盖一章曰“伤心人别有怀抱”、“一生知己是梅花”。
彭玉麟说到做到，他画了整整40年，才完成了以万幅梅花纪念梅姑的承诺，丧妻后终生未娶。他画的梅花：干如铁，枝如钢，花如泪。辞官隐居期间，一是在湖口水师昭忠祠旁边建厅，遍栽梅花，号称“梅花坞”，即石钟山著名旅游景点梅花坞；二是在家乡筑“退省庵”，在庵里吟诗作画。 第一次是辞去安徽巡抚（相当于安徽省委书记）之职。当时是在咸丰十一年（1861年），彭玉麟官职是安徽布政使（相当于省长）衔水师统领。曾国藩任两江总督，把所属三省巡抚任给他的三个亲信，任彭玉麟为安徽巡抚。他却一连三次辞谢，其理由是已习于军营而疏于民政，请朝廷勿弃长用短。朝廷只好收回成命，改任兵部侍郎，依旧留在前线督带水师，他才坦然接受。
第二次是同治四年（1865年）二月，朝廷任命署漕运总督。漕运总督掌管鲁、豫、苏、皖、浙、赣、湘、鄂八省的漕政，是众人所垂涎的天下一流肥缺。但他又两次谢绝，理由除了不懂漕政外，又加上性情褊急、见识迂愚，不会与各方圆通相处。朝廷只得作罢。
第三次是同治七年（1868年）六月，上疏请辞已当了七年的兵部侍郎。原因是当年从军时，三年母丧只守了一年，现在国家安定，他理应解甲归田，将剩下的两年补满。这次朝廷没有挽留，答应了他的请辞。
第四次是彭玉麟离职休养三四年后，朝廷又任命为兵部侍郎兼光绪帝大婚庆典宫门弹压大臣。待到庆典一结束，他立即上疏请辞署理兵部侍郎。朝廷接受后，又交给他一项差使，即每年巡视长江水师一次。
第五次是光绪七年（1881年）七月，朝廷任命为两江总督兼南洋通商大臣。两江辖地广阔，又兼物产丰茂，南洋通商大臣一缺更是权大责重，一向非名宦宿臣不能任命。朝中重臣曾国藩、李鸿章等人都曾任过此职。让彭玉麟出任两江总督，说明朝廷对他的倚重，但他就是不领这个情，接旨后即上疏请辞，隔日后又再次上辞疏。朝廷无奈，只得把此要缺交给左宗棠。
第六次是光绪八年（1882年），朝廷任命彭玉麟为兵部尚书。与过去一样，他接旨后即请辞，朝廷未准。不久，中法战争爆发，朝廷命他率领旧部将士并增募新军，迅速前往两广部署海防。他认为此时是临危受命，不宜再辞，便以衰病之躯奉旨赴粤，带领所部驻扎南海前线，整修虎门要塞，加强沿海完备，遣部将防守钦州、灵山。多次上疏主战，战后疏请严备战守，以防后患。中法战争胜利结束后，光绪十一年（1885年）三月，便上疏请辞兵部尚书之职，朝廷未予接受。他又于这年八月、第二年八月、第三年七月、第四年六月接连四次上疏请求辞职。鉴于他的执着，朝廷只得接受。 彭玉麟位居高位，始终坚持了一条“不要钱”的生活准则。咸丰四年（1854年）冬，彭玉麟率湘军水师配合陆师攻陷了田家镇后，清廷奖励4000两白银，他却转而用于救济家乡。他在给叔父的信中说：“想家乡多苦百姓、苦亲戚，正好将此银子行些方便，亦一乐也。”还要求他叔父从中拿出一些银两在家乡办所学堂，期望为家乡“造就几个人才”。对自己和家人却甚为严苛。当他得知儿子花费2000串铜钱修葺了家中老屋之后，即去信严辞斥责：“何以浩费若斯，深为骇叹。”说他一贯将“起屋买田视作仕宦之恶习，己身誓不为之。不料汝并不来信告示于我，遽兴土木；既兴土木之后，又不料汝奢靡若此也。外人不知，谓吾反常，不能实践，则将何颜见人!”其实，他儿子修葺后的老屋也不过是三间土墙瓦屋而已。
同治三年（1864年），他曾说过：“顾十余年来，任知府，擢巡抚，由提督，补侍郎，未尝一日居其任。应领收之俸给银两，从末领纳丝毫。……未尝营一瓦之覆，一亩之殖以庇妻子。”彭玉麟是这样说的，也是这样做的。按清朝制度，凡文武官员于正式薪俸之外，由国家另行发给养廉金一份，于离职之日一次发给，以奖官守，并杜绝贪污。据此计算，彭玉麟自咸丰五年（1855年）至同治元年（1861年），七年之间，应得养廉银二万一千五百余两，但他分文不取，全数上交国库充作军饷。彭玉麟考虑到他一个人这样做可能使人怀疑他沽名钓誉，因而又请求曾国藩出面向朝廷说明。曾国藩则说：曾国藩之所言，确不为过。 《清史稿》：①玉麟刚介绝俗，素厌文法，治事辄得法外意。不通权贵，而坦易直亮，无倾轧倨傲之心。历奉命按重臣疆吏被劾者，於左宗棠、刘坤一、涂宗瀛、张树声等，皆主持公道，务存大体，亦不为溪刻。每出巡，侦官吏不法辄劾惩，甚者以军法斩之然后闻，故所至官吏皆危栗。民有枉，往往盼彭公来。朝廷倾心听之，不居位而京察屡加褒奖，倚畀盖过於疆吏。生平奏牍皆手裁，每出，为世传诵。好画梅，诗书皆超俗，文采风流亦不沫云。②彭玉麟、杨岳斌佐曾国籓创立水师，为灭贼根本。两人勋绩，颉颃相并。岳斌后为朝旨强促西征，用违其才，偾事损望。玉麟终身不任官职，巡阅长江，为国家纾东顾之忧。其疏论古人晚节之失，由於不能自藏其短，且惜朝廷不善全其长，洵至言也。后盛昱劾其辞尚书之命，乃谓抗诏鸣高，殆浅之乎测玉麟矣。 曾国藩：①彭玉麟书生从戎，胆气过于宿将，激昂慷慨，有烈士风。②若论天下英雄，当数彭玉麟、李鸿章。③烈士肝肠名士胆；杀人手段活人心！ ④千古两梅妻，公几为多情死；西湖三少保，此独以功名终。⑤查彭玉麟带兵十余年，治军极严，士心畏爱，皆由于廉以率下，不名一钱。今因军饷支绌，愿将养廉银两，悉数报捐，由各该省提充军饷，不敢迎邀议叙，实属淡于荣利，公而忘私。 胡林翼：忠勇冠军，胆识沉毅。 左宗棠：①论治军之严肃，彭视杨（载福）为优。②出处进退缓急，罔不心安理得，求之古大臣中，尚不多见，何论今人？③劾治多人，严正之概，谋虑之忠，足式百僚。 李鸿章：①老彭有许多把戏。②杨（岳斌）心细胆略均在彭上，肃清长江实伊之功，用之江海较宜。③不荣官府，不乐室家，百战功高，此身终以江湖老。无忝史书，无惭庙食，千秋名在，余事犹能诗画传。 张之洞：①加官不拜，久骑湖上之驴；奉诏即行，誓翦海中之鳄。②神州贯长江，其南际涨海。江海幸息浪，砥柱今安在。③五年前瘴海同袍，艰危竟奠重溟浪；二千里长江如镜，扫荡难忘百战人。 曾国荃：下为河岳，上应日星， 一旅起衡湘，志量不居三代后身在江湖，心存魏阙，大勋垂宇宙，忠清无愧九重褒。 俞越：①咸丰、同治以来诸勋臣中始终餍服人心，无贤不肖交口称之，而无毫发遗憾者的唯一一人。②勋业在天下，声名在柱下。③公性豪迈，善饮；喜讌客，而自奉至薄。不御肥甘，旁无姬侍，惟一、二老兵给事其旁。遇部下旧将，若布衣昆弟；而纪律极严。④人之生直，其为气刚；刚则近仁，直大以方。明明天子，知公特详；锡此二字，纪于太常。公之故旧，私议其旁；情性似矣，功业未彰。岂知功业，非公独长；即在当时，并称彭、杨。至于性情，日月争光；睥眤宇宙，笑傲侯王。直如矢笴，刚若箭鋩。 易宗夔：彭雪琴力崇俭朴，偶微服出，状如村夫子。巡阅长江时，每赴营官处，营官急将厅事陈设之古玩及华焕之铺陈，一律撤去，始敢迎入。副将某以千金购玉钟，闻公至，捧而趋，砰然坠地。公见之，微笑曰：“惜哉!”副将悚服，不敢仰视。曾饭友人处，见珍馔，辄蹙额，终席不下箸，惟嗜辣椒豆腐。有人谒之于西湖“退省庵”，公衣茧绸袍，加羊毛外褂，已裂数处，冠缨作黄色。室中除笔砚外，惟竹簏二事。久之，命饭，园蔬数种，中置肉一盘而已。 李篁仙：长江数千里之间，论荆楚将才，惨淡功名全在水；危崖百十寻以上，对梅花片石，轮囷肝胆尚思 黄体芳：于要官、要钱、要命中，斩断葛藤，千年试问几人比；从文正、文襄、文忠后，开先壁垒，三老相逢一笑云。恽炳孙：其为气至刚，从孟氏得来，斯称善养；人之生也直，经孔门论定，不惭古愚。 王闿运：诗酒自名家，看勋业烂然，长增画苑梅花色；楼船又横海，叹英雄至矣，忍说江南血战功。 王凯运：常患咯血，乃维纵酒。孤行畸意，寓之诗画。客或过其扁舟，窥其虚榻，萧寥独旦，终身羁旅而已。不知者羡其厚福，其知者伤其薄命，由君子观之，可谓独立不惧者也。 郭嵩焘：收吴楚六千里，肃清江路之功，水师创立书生手；开国家三百年，驰骋名扬之局，亮节能邀圣主知。 陈士杰：同侪只几辈仅存，那堪雾暗星沉，南岳又惊奇士殒；隔岁向三潭小住，际此风和日丽，西湖应盼主人回。 周崇傅：曾侯之正，左傅之刚，惟公鼎足其间，中兴大业三人杰；宏景无才，长源无识，折我私心所仰，南岳诸峰一老臣。 李瀚章：得祖豫州之直，得刘并州之刚，每思击楫中流，慨旧雨凋零，江左功名成一恸；于曾文正则师，于左文襄则友，总是昔时同泽，望衡云黯谈，中兴人物并千秋。 吴熙：先声震朔漠炎荒，疆寄虽辞，边防终赖，谁敢当江海楼船，持节任优游，于今古名臣列传中，创格独新，要不外退省为怀，战战兢兢无坠志；余力辟东洲讲舍，十年树木，万卷藏书，已非复关山戎马，骑箕犹眷恋，原二三豪杰为时出，通经致用，以仰答爱才如命，勤勤恳恳之深心。 王之春：洁清方文靖，劳瘁似武乡，高尚绍邺侯，丰裁超忠介，使车持节，犹是布衣。当年爵禄频辞，岂忘天下乐忧、民间疾苦。荩臣捐性命，自甘剑浙矛炊，迨至国狗全歼，狂鲸永息，东南奠定，中外安攘，置酒方歌风，何遽大地陨星，又弱一个；伟业著鄱湖，芳踪留浙水，勋名垂粤峤，遗爱遍长江，兵法传薪，实难负担。畴昔戎机参赞，曾以干城属寄、国士相期。知己感生成，愿倚泰山北斗，谁料灾缠二竖，梦兆两楹，甲马辰飞，酉鸡夜变，无缘再立雪，愧未于场筑室，独居三年。 高鹏年：南岳西泠，大地茅庐两个；吴头楚尾，中流砥柱一人。 徐琪：①当年文酒追陪，花木池台，曾见我公亲手定；此日湖山供养，馨香俎豆，可知旧地去思多。②半生血战，助恢廓中原，至今江表威名，妇孺皆呼老宫保。九陛恩纶，识忠清盛德，他日专祠遗像，须眉犹是旧诗人。③酌水励清操，殷勤千里廉泉，犹助春波润蓬液。故乡留胜迹，惆怅三潭夜月，更无仙梦到梅花。 唐树森：①帝命重巡江，五千里浪静波平，更播威名到南海；臣心如止水，十二桥月明风谈，长留灏气在西湖。冯唐易老，雍齿且侯，三字故将军，匹马短衣春射虎；左抱宜人，右弄孺子，孤山林处士，芦帘纸阁夜谈龙。②斯真河岳英灵乎？以诸生请缨投笔，佐曾文正创建师船，青幡一片，直下长江，向贼巢夺转小姑山去。东防歙婺，西障湓浔，日日争命于锋镝丛中，百战功高，仍是秀才本色，外授疆臣辞，内授廷臣又辞，强林泉猿鹤，作霄汉夔龙。尚书剑履，回翔上接星辰；少保旌旗，飞舞远临海澨，虎门开绝壁，岩崖突兀，力拒重洋。千载后过大角炮台，寻求故迹，见者犹肃然动容，谓规模宏壮，布置谨严，中国诚知有人在。 陈彝：何以吊孤忠，有正气一歌、出师二表。斯人竟千古，剩西湖水碧、南岳峰青 沈秉成：天上将军，比伏波战舰、下濑戈船，晚年缓带轻裘，犹为九边资坐镇山中宰相，想衡岳瞻云、圣湖泛月，此后啼猿唳鹤，空传十赉在人间。 陈士杰：同侪只几辈仅存，那堪雾黯星沉，南岳又惊奇士殒隔岁向三潭小住，际此风和日暖，西湖应盼主人回。 奎斌：能让高位，闻危事则不辞，完一世功名，是谓真廉兼大勇最爱苍生，遇奸人则必剪，问后身因果，若非菩萨便金刚 许振祎：江湖遥领老尚书，洒泪飞腾为从古，上将元勋，别开生面。天壤如公真国士，忠清刚毅赞中兴，平夷荡寇，特立长城。 苏元春：是衡岳间气所钟，百战余生，依旧驰驱劳国事当海上虏氛未靖，九原遗憾，还应慷慨策边防。 丁义方：：公比武乡侯，讨贼筹边，赢得大名垂宇宙。我事文中子，感恩知己，难禁老泪洒江滨。 樊琅圃森：大业著中兴，是良将、是名臣，湘乡以还，此为元老秀。才任天下，亦江湖、亦廊庙，希文而后，仅见斯人。 欧丽先谦：紫光阁毛发一新，问凌烟功臣，可有此癯仙面目。黄龙府泪痕犹在，只西湖明月，还照著铁石心肠 谭炳章：海外尚风烟，知公犹抱过河憾。门前数桃李，剩我忝为筑室人。 柳均煦：品似范希文，当为秀才时，即任天下。心同岳少保，行到黄龙府，痛饮诸君肝胆英雄，书画寄余闲，一颗图章留本色根柢秀才，勋猷元老，河山资保障，千秋史笔有灵光 刘思训、思谦：起家杀贼，垂老筹边，三十年林下尚书，望杨柳旌旗，留得清风动江渚。冰铁须眉，神仙标格，一万幅人间图画，问梅花消息，顿惊明月冷孤山。 唐浩明：古往今来，有多少人求官、跑官、钻官、买官，又有多少人为了升官，什么卑鄙无耻的事都干得出，还有多少人或颟顸无能，或老迈病弱，却依旧占着一个职位不放。像彭玉麟这样一生辞谢六项崇职要缺，甘愿做苦役实事，甘于做普通百姓的人，衡之古今官场，实在是凤毛麟角，难寻难觅。”
