1941年1月皖南事變后，淮海區地方反動武裝勾結日偽軍、反動道會門摧殘百姓，反動氣焰十分囂張，尤其是盤踞在洪澤湖中的幾支反動武裝更加猖狂，嚴重阻礙淮北、淮南、蘇北、蘇中革命根據地的聯系。
洪澤湖是淮河流域最大的淡水湖，湖面1960平方公里，水產資源極其豐富，是“日出斗金”的寶湖。在1940年之前，洪澤湖區的漁霸、湖匪橫行，湖內一萬多漁民深受其害，苦不堪言。漁民是“魚死白白眼，苦錢不到晚，孩子打光腚，鋪蓋蘆花毯”。
抗戰時期，共產黨在洪澤湖周圍地區建立了根據地，并成立了淮北行署洪澤湖管理局，敵人“掃蕩”時，傷病員、婦女、兒童、機關都到湖里隱蔽。湖匪、漁霸視新四軍是他們欺詐漁民掠奪財富的障礙，認為新四軍是“旱鴨子”，不會水戰，便以湖為依托，乞憐日寇，投靠偽軍，殘害漁民，專門與新四軍作對。
在洪澤湖南盱眙縣城駐扎著日寇一個大隊部，湖中老子山還有日軍一個小隊的據點。匪首高鑄九，率眾100多人，有鋼板劃子10余艘，民船數百只，投靠日寇，自稱“九路軍”（殺人魔王孫乃香自稱“十路軍”）；臨淮頭的張文博，人稱“張三狼”，自稱蘇皖游擊指揮，有 100多人的武裝；殺人如麻的魏友三手下有100余人，輕機槍兩挺，駁殼槍30余支，鋼板劃子10余艘，是頑軍韓德勤的獨立旅旅長。這幫湖匪不僅阻斷我根據地之間的水上交通，還利用湖里復雜地形，不斷向沿湖抗日根據地襲擾，殺害地方干部，掠奪糧食、財物，襲擊后方機關。這幫湖匪不除，新四軍便無法放開手腳與日偽軍作戰，對于淮北、淮南、蘇北、蘇中根據地之間的聯系極為不利。
1941年3月底，經新四軍軍部批準，新四軍三師九旅旅長張愛萍率二十五團及警衛營開進到洪澤湖西部沿岸，開始“海戰”準備工作。
張愛萍面對洪澤湖放眼遠眺，只見水天一色，春風拂面。他思索著，洪澤湖下接運河、白馬湖、高寶湖，湖面寬闊、港汊縱橫，入夏后蘆葦叢生，無邊的青紗帳將會變得如迷宮一般。要解決湖匪，必須及早動手。
經過廣泛偵察調查，張愛萍掌握了湖匪的裝備實力和活動規律。他們裝備精良，習水性，慣水戰，其鋼板劃子不怕正面射擊。敵人的戰術是利用各種性能之船，或隱蔽在湖邊淺水中對我突然襲擊，或在湖口河汊中用鋼板劃子警戒阻我下湖，或利用廣闊湖面與我周旋，并利用對地形與社會關系的熟悉，時而到岸上搶劫，時而下湖集結。而新四軍多年來一直習于陸戰，戰士們聽說要下湖作戰，心里顧慮重重。4月初，張愛萍在洪澤湖畔召開研究清剿湖匪作戰會議，他指出：“什么‘九路軍’、‘十路軍’，據我調查，都是些烏合之眾。他們彼此明爭暗斗，經常相互火并。我軍確實沒有大規模水上作戰的經驗，但是沒有經驗可以學。我軍從無到有，從小到大，從來都是在前人沒有走過的路上走過來的。我們兩萬五千里長征都過來了，還怕這區區一伙湖匪！”
張愛萍在會上分析了湖上作戰的利弊短長。他說：“我軍雖不習水戰，且無水上作戰的船只和水手，但我軍兵力處于優勢，湖之四周皆為我方控制，敵偽匪只控制了一個湖邊；從政治上說，廣大漁民人心向我，要求肅清漁霸、湖匪的呼聲十分強烈；而湖匪彼此間矛盾重重，與漁民的矛盾更甚。這正是我軍取勝的政治和心理條件！洪澤湖這一仗必須打，也有把握打勝！關鍵問題是我軍要盡快學會水上作戰本領，盡快把陸軍變成‘水軍’。這次戰斗，戰前準備時間要長，要充分，但作戰要速戰速決。”張愛萍高屋建瓴地分析，博得了政委韋國清和其他旅團干部的一致贊同。
經過認真研究，張愛萍形成了戰役決心和部署：軍事上，第一期肅清環湖周圍的漁霸、湖匪，于老子山、馬陵港、成子湖、高嘴、臨淮頭等地完成軍事封鎖。第二期，進行“海戰”，徹底肅清湖匪。戰役決心形成后，張愛萍報請華中局及新四軍軍部。不久，陳毅、劉少奇批準并下達了殲滅洪澤湖湖匪的命令，要求“張韋部應乘蘆葦尚未生長之機，肅清湖中頑匪”。隨之，張愛萍下達命令，要求各部戰士都要學會游泳。他自己脫衣下水給大家作示范，并請漁民介紹水上生活常識。
在水上進行戰斗，要有船，而且要防止船被敵人擊沉。戰士們先用土坯像泥墻一樣把船里側堵起來，在離岸百米處向湖里船只一齊開槍，結果發現子彈打進去出不來，打穿的木板也被水浸濕的土坯堵住了，水進不去。沙風同志搞了一只大船試驗，子彈也打不沉。
到4月底，湖上作戰一切準備完畢。新四軍二師五旅一團在洪澤湖東邊把住高良澗一線的幾個口子，防止敵人登岸逃跑；四師十旅二十九團在成子湖東北一線警戒，防敵逃竄；地方武裝在管鎮方向警戒，防敵流竄。二十五團由沙風、李浩然帶領一個營從成子湖北向南壓迫圍殲，團主力在顧寒星帶領下，從臨淮向東進攻。
5月2日，新四軍發起總攻，主力部隊從臨淮河里出發，拂曉前，以迫擊炮、高射機槍在前，出湖后，用四根長桅桿把船固定起來，向敵人鋼筏開炮射擊，很快敵鋼筏子船被新四軍火力打散，俘敵一部，繳獲鋼筏子船十幾只。沙風、李浩然帶領的部隊，從湖西北壓過來，敵人倉皇逃向高嘴以南湖面，遭新四軍南北夾擊，遂向高良澗方向逃跑，新四軍跟蹤追擊。此時，天色已晚，湖面突起大風，船兒過不去，新四軍便集結于高嘴附近湖面上，準備天亮時再打。當晚，高鑄九部向成子湖東北方向上岸逃跑，被第十旅二十九團伏擊全殲。陳伯華部第二天向高良澗、老子山、盱眙方向分散逃跑，由于日軍在老子山用火力掩護接應，除小股敵人逃向盱眙城外，大部分湖匪向新四軍繳械投降。從此，洪澤湖——華中抗日根據地的“內海”回到人民手中，成為新四軍聯絡各根據地的交通樞紐，成為新四軍可靠的后方，成為取得財源收入的一塊寶地。
5月5日，新四軍在高良澗召開了隆重的祝捷大會，幾百條船集結在一起，形成一個半圓形會場，氣氛非常熱烈。漁民自發組織起來慰勞部隊。張愛萍在歡慶勝利喜悅時，即興賦詩一首：
洪澤水怪亂水天，奮舉龍泉搗龍潭。
紅旗漫展萬眾勇，白帆云揚千檣舷。
寒江倒海斬妖孽，長風劈浪掃敵頑。
旸烏紅天煬紅泊，漁歌滿湖魚滿船。
戰斗結束后，張愛萍將繳獲的鋼板船組編了洪澤湖大隊。隨著時間的推移，就連張愛萍自己也不曾想到，他組織指揮的洪澤湖水軍，竟與人民解放軍創建的海軍結下了不解之緣。