１９２７年初，蔣介石反革命陰謀日益暴露，蔣先云毅然去武漢任湖北省總工會工人糾察總隊(duì)隊(duì)長，倡議成立黃埔學(xué)生反蔣委員會。同年５月武漢國民政府決定繼續(xù)北伐，蔣先云被任命為國民革命軍第１１軍２６師７７團(tuán)團(tuán)長兼黨代表，率部北上河南，５月２８日在攻克臨潁城的戰(zhàn)斗中英勇犧牲。

蔣先云犧牲后，周恩來在武昌親自主持召開追悼會，當(dāng)時(shí)中共中央機(jī)關(guān)刊物《向?qū)А分軋?bào)刊登了題為《悼蔣先云同志》的悼詞。徐向前元帥稱蔣先云“斗爭堅(jiān)決，作戰(zhàn)勇敢，頭腦敏捷，堪稱青年軍人的榜樣”，并親自為他題詞：蔣先云烈士永垂不朽。

蔣先云的革命情懷和愛國斗志激勵(lì)著家鄉(xiāng)人民。為紀(jì)念他，新田縣將縣城一條繁華街道（縣城至蔣先云出生地方向）命名為先云路，并修繕了蔣先云故居，民間自發(fā)組織成立了新田縣蔣先云研究會。