没过几年，曾国藩就用这支配备大量洋炮的舰队夺取了长江的制水权，为太平天国的覆亡掘开了坟墓。
湘军水师共有十营，和陆军一样，每营五百人。这只是建成之后的规模，初组建水师时，还是困难重重。首先是湖南人多以上船为苦，视水战为洪水猛兽。有人来应聘，一听说是水师，掉头就走。曾国藩好不容易招募了三千多人，再也招不上一人，万般无奈之下，只好将陆军改为水军。士兵们必须服从命令，只能唉声叹气。营官们却死活不干，跑去和曾国藩说理。
营官彭玉麟说：“你让我在陆地当个小兵都可以，就是别让我去水上当什么营官，我真是做不来。”另一营官杨载福也说：“我一见水就晕厥呕吐，平时喝水都不敢用大碗，让我去水上指挥战斗，和送死有何分别。”
其他营官互相议论，都支持彭玉麟和杨载福，整个大堂喧嚣如滚雷一样。曾国藩不是不知道这些陆军营官的本事，尤其是彭玉麟，读书人出身，却拥有超绝的军事天赋，是个陆地之虎。把这样的人才从陆地弄到水上，实在有浪费之嫌。