1944年夏，隱藏在上海的共產黨物資站“51號兵站”由於叛徒程路出賣，被漢奸馬浮根迫害，運往蘇中新四軍的物資管道被掐斷。為了儘快恢復蘇北新四軍的後勤供給，中共華東局委派新四軍某部作戰科長梁宏(本名范雲洪)，以青幫“小老大”的身份前往上海重建51號兵站。
梁宏的父親是上海幫會“義展堂”的堂主，家境顯赫。此次回來他正是以範家“小老大”的身份作掩護，一邊瞭解上海複雜環境，一邊設法聯繫51號兵站倖存的同志。“小老大”的突然出現，不僅讓范家大管家李墨林頗感驚訝，同時也引起了大特務馬浮根和黃元龍乃至日本憲兵隊隊長田中敏行的疑慮，梁宏一回到上海就被馬浮根派人盯上。
黃雲龍在吳淞口截獲了一批盤尼西林，正準備送出上海的時候被馬浮根派人搶走，而這批藥主人是和馬浮根關係親密的國民黨軍統女特務徐曼麗。為了擺脫特務的跟蹤，梁宏借著拜訪在日本留學時候的老師凇原教授同時，和田中見上了一面，鎮住了他周圍的特務，暫時打消了馬浮根的懷疑。盤尼西林的出現使得上海幾股大勢力都蠢蠢欲動，梁宏和助手胡阿強幾經周折終於和51號兵站的同志楊顯庭、宋振中取得上了聯繫，並制定好了搶藥計畫，準備在馬浮根賣藥的時候奪走藥品。
大管家李墨林按照青幫的規矩為小老大拉場子，請來同是青幫弟子的馬浮根和黃雲龍。宴會上，馬浮根用幫會行話試探梁洪，梁宏沉著冷靜，應對如流，使馬浮根雖有疑慮卻無可奈何。同時在馬浮根賣藥的樹林裏，黃雲龍的手下打退了馬浮根的偵緝隊，而真正的盤尼西林卻被老楊他們從徐曼麗手裏搶走。梁宏在青幫的亮相，不僅贏得了李墨林的信任，還和黃雲龍拉近了關係，打開了吳淞口通往蘇中根據地的交通要道。叛徒程路在身份被暴露後，依仗日本人和馬浮根在上海大肆實施恐怖活動，梁宏利用程路和黑幫的矛盾，不動聲色地幹掉了他。程路的死使得田中和馬浮根察覺到了共產黨的存在，又開始把懷疑的目光集中在梁宏身上。
