十九世纪中叶，腐朽的清王朝在遭遇外敌入侵后逐渐沦为了列强瓜分中国的工具。不过，得益于当时一些杰出人物的竭力辅佐，清政府曾一度呈现出中兴的气象。在这些人物当中，曾国藩、左宗棠、胡林翼、彭玉麟四人被并称为“晚清中兴四大名臣”，其中彭玉麟德才兼备、功勋卓著，被认为是我国近代海军的创始人，但却最为低调，甚至可以说是相当不起眼。
嘉庆二十一年（1816），彭玉麟生于安徽省安庆府怀宁县，五岁那年，由于父亲彭鸣九被封为安徽省庐州府合肥县梁园镇巡检，幼小的彭玉麟便也跟随父亲一同前往了合肥。道光十二年（1832），彭鸣九在母亲去世后带着十六岁的彭玉麟回到了位于衡永郴桂道衡州府衡阳县，即如今湖南衡阳市的老家奔丧。
然而，回到衡阳后的彭鸣九很快便因为遭受族人欺侮而一病不起。不久之后，彭鸣九在忧愤中离世，失去依靠的彭玉麟则在被族人夺走了全部房屋与田产后只得前往郡城，靠着在衡州协标营当书吏的一点收入奉养母亲。幸运的是，彭玉麟的文章偶然间得到了衡州知府高人鉴的赏识，后者将其招入官署，允许他以附学生员的身份学习。
道光三十年（1850），湖南新宁县一带爆发起义，彭玉麟跟随协标营参与围剿，结果战后上级误将其当作武将，授予了他临武营“外委”，也就是武官之职。彭玉麟并没有接受任命，而是前往耒阳的一家当铺当了理事。太平天国运动波及耒阳时，彭玉麟拿出自己的全部积蓄给县令，助其招募兵勇、巩固城防，太平军也因此不敢贸然攻城。
成功保全耒阳后，彭玉麟没有要求朝廷进行任何赏赐和嘉奖，只提出希望拿回本属于自己的那份钱财，由此名声大噪。咸丰三年（1853），湘军的创立者曾国藩向彭玉麟递出了橄榄枝，后者则爽快出山，并与其一同创建了湘军水师。在后来平定太平天国的过程当中，湘军水师起到了十分重要的作用，而彭玉麟作为主要指挥官也立下了汗马功劳。
据《清史稿》记载，因为创立水师之功，朝廷为彭玉麟“加太子少保，予一等轻车都尉世职”。同治七年（1868），彭玉麟与曾国藩共同奏定了长江水师营制，构想在自湖北荆州至崇明的五千余里水道内设置提督一名、总兵五名，而士兵则总共一万二千人。在彭玉麟的整饬下，长江水师拥有了不俗的实力。
光绪七年（1881），朝廷封彭玉麟为两江总督，但彭玉麟并无意这个显赫的官职，只想一心发展好江防、海防，于是极力推辞。两年之后，中法战争爆发，其战场则很快从越南北部转移到了我国东南沿海地区，熟悉水战的彭玉麟很快前往两广组织防守，并且和年近古稀的老将冯子材合作，取得了以镇南关大捷为首的一系列胜利。
然而，尽管彭玉麟多次上书主张继续与法军作战，捍卫主权和领土完整，但软弱无能的清廷还是执意求和。随着光绪十一年（1885）年中法停战协定达成，彭玉麟也只得撤军。中法战争让清廷认识到了近代化海军的重要性，北洋水师正是在这样的背景下于光绪十四年（1888）成立。
中法战争结束后的彭玉麟继续将精力奉献在江防事业上，他一方面上书朝廷提出自己关于建设水师的看法，另一方面频繁巡阅长江水师，监督这支自己投入了全部心血的部队。光绪十二年（1886），彭玉麟拿出自己一万二千两积蓄，在老家衡阳建造了清末最著名的书院——船山书院。
两年后，已经身患重病的彭玉麟最后一次巡阅了长江水师，随后便解职回乡。光绪十六年（1890），七十五岁的彭玉麟因病去世，朝廷追赠其为太子太保，赐谥号“刚直”。由于其创建的长江水师为日后北洋水师提供了基础，他被视为我国近代海军的奠基者、创始人。他恐怕想不到的是，仅仅四五年后，集结了清王朝最强海军力量的北洋水师会以一种十分屈辱的方式全军覆没。
彭玉麟一生不治私产、不纳姬妾，品德方面值得学习。值得一提的是，出身文人的他工于书画，尤其喜爱画梅花。据统计，他一生共绘制过上万幅梅花图，其作品被曾国藩誉为“兵家梅花”。而对于他本人，曾国藩也曾给予高度评价道：“书生从戎，胆气过于宿将，激昂慷慨，有烈士风。”或许正是因为一生为建设水师默默奉献，本该拥有更高知名度的彭玉麟如今才会默默无闻。