１９２７年大革命失敗后，林育南在湖北轉(zhuǎn)入地下斗爭(zhēng)，先后任中共湖北省委常委兼宣傳部部長(zhǎng)、中共湖北省委代書(shū)記。１９２７年底赴上海，任中共滬東區(qū)委書(shū)記。１９２９年１１月在上海參與籌備第五次全國(guó)勞動(dòng)大會(huì)，他繼續(xù)被選為全國(guó)總工會(huì)執(zhí)委會(huì)委員，任編輯委員會(huì)負(fù)責(zé)人、秘書(shū)長(zhǎng)，主持日常工作。１９３０年起林育南任全國(guó)蘇維埃區(qū)域代表大會(huì)中央準(zhǔn)備委員會(huì)秘書(shū)長(zhǎng)。

１９３１年１月１７日，林育南同何孟雄、李求實(shí)等在上海被國(guó)民黨反動(dòng)當(dāng)局逮捕。在獄中，林育南經(jīng)受住了敵人的嚴(yán)刑拷打，寧死不屈，對(duì)黨忠誠(chéng)，同敵人進(jìn)行堅(jiān)決斗爭(zhēng)，保持了共產(chǎn)黨員的堅(jiān)定立場(chǎng)和崇高品格。１９３１年２月７日，林育南與何孟雄等２４位共產(chǎn)黨員與革命者，在上海龍華英勇就義，時(shí)年３３歲。