咸丰二年年（1852年），曾国藩在家乡为自己的母亲守孝，朝廷的一道谕旨打乱了他的平静生活。咸丰帝让他在湖南组织团练，以对抗声势浩大的太平军。
曾国藩本是一介书生，从未有过戎马生涯，他所倚靠的无非就是二品侍郎的虚衔，以及当年在京城里留下的海内人望，如果真是要论起实力来，曾国藩几乎就是一张白纸。起初，曾国藩也非常犹豫，到底是继续为母守孝还是投笔从戎？而此时，一个人的出现改变了他的命运。
此人便是罗泽南，任何谈论曾国藩的人都不可回避地要提及罗泽南。曾国藩为什么会看中罗泽南，其根本原因就是此时的罗泽南，手里有着一支千余人的武装。善于识人的曾国藩之所以出山，最重要的原因就是因为有了罗泽南。
和其他许多湖南士人不一样，罗泽南的家境是最差的。史书上用了三个字来形容“家酷贫”。十九岁那年，母亲去世，次年，祖父、兄嫂死去；二十九岁时，长子、次子、三子先后死去。他屡遭丧亲的打击，十年间死了十一个亲人。
从十九岁开始，罗泽南便开始自己谋生，在县内各地讲学。他所讲的内容和方法和其他私塾不一样，他除了教人识字、应试科举外，还教人静心养性，练习跳高和拳棒。上午讲学，下午操练，这种别样的教书方法，竟然招来了不少学生，如后来在湘军中冲锋陷阵的李续宾、李续宜、王鑫等湘军名将，这些人都是罗泽南的弟子。
咸丰二年，太平军深入湖南，罗泽南以一介书生开办团练，带领自己的一千多名弟子组成了一支队伍。之所以要拉起队伍，罗泽南是要把平生所学化为匡扶社稷的经世之功。也正是因为有了这支队伍，给曾国藩增添了建功立业的信心。
曾国藩出山后，对罗泽南的赏识和提携，也为他提供了一个把自己平生所学发扬光大的平台，所以在后来的征战中，罗泽南成为曾国藩最坚定的助手和沙场先锋。
在后来的岁月里，罗泽南和曾国藩建立了深厚的感情，也一直跟随在曾国藩的左右，和另一位猛将塔齐布一起成为了曾国藩的左膀右臂，是湘军嫡系中的嫡系，后来曾、罗两家还结成了儿女亲家，可见其关系非同一般。
咸丰五年，曾国藩出师江西，在九江和太平军对峙数日，爱将塔齐布因此呕血而死。而太平军又在猛攻武昌。此时罗泽南向曾国藩建议放弃九江，回师上游占据武昌，打通江西与湖北之间的通道。
曾国藩接受了罗泽南的建议，但是他爱才心切，生怕罗泽南有什么闪失，考虑再三，才派他率军援助武昌，还把自己的好友刘蓉派去做他的助手。其时，胡林翼是湖北巡抚，罗泽南和胡林翼一起作战，进攻武昌，击败太平军取得胜利。
遗憾的是，当武昌即将攻下之时，罗泽南心里惦记着曾国藩，于是便加紧了攻势，企图一举拿下武昌城，然后回师协助在江西的曾国藩。咸丰六年，罗泽南在攻城之战中额头中弹，但仍然坚持作战，五天后因伤势严重，不治而亡。
曾国藩得知罗泽南的死讯后，痛心疾首，写下了“闻春风之怒号，则寸心欲碎”的诗句。湖北巡抚胡林翼对这位战友的牺牲也深表哀痛，当即写下一副挽联：
上马杀贼，下马著书，仗大力撑持，真秀才，真将军，真理学；
前表出师，后表誓志，痛忠魂酸楚，有寡妇，有孤儿，有哀亲。
两年前，曾国藩的爱将江忠源死于战场，两年后，另一位爱将在折戟武昌，这让曾国藩痛心不已，虽说湘军之中诞生了许多优秀的将才，但是在曾国藩心中，罗泽南的地位无可取代。