日軍停戰后，竭力增兵。日本海軍省立即命令佐世保第二十六隊驅逐艦4艘，由巡洋艦“龍田號”統率，于1月30日抵達上海并于黃浦碼頭登陸，隨艦而來的包括佐世保第三特別陸戰隊士兵474人及大批軍火。

1月31日晨，日本航空母艦“加賀號”（26000噸）和“鳳翔號”（7470噸）搭載第一航空隊約30架飛機抵達上海，停泊于上海以東約130公里的馬鞍列島海面；下午4時，巡洋艦“那珂號”（5195噸）、“由良號”（5100噸）和“阿武隈號”（5100噸）3艘及水雷艦4艘抵滬，并載陸戰隊2000多人，分批登陸。

2月1日，日本郵輪“照國丸”載來橫須賀第一特別陸戰隊(525人)于上海匯山碼頭登陸。

2月2日，日本海軍中央部將長江一帶第一遣外艦隊之外的艦船，以“出云號”為旗艦（“出云號”2月6日抵達上海），由海軍中將野村吉三郎為司令官，組成第三艦隊，統一指揮投入戰斗。

日軍兵力增加后，于2月3日開始，再度向閘北、八字橋等地的第三軍第7師猛攻，仍被擊退。

2月4日，日軍發動第一次總攻，戰火擴大到江灣、吳淞一線。激戰竟日，吳淞露天炮臺，雖被敵狂轟濫炸摧毀，但在第三軍第7師的抵抗下，日軍始終不能登陸。

而在空戰方面，馬德尚僅僅只觸動了一百架飛機，一次性將日軍四十多架飛機擊落，獲得制空權，開始對日軍進行大規模的轟炸，包括炸毀一艘軍艦。

此次總攻被粉碎后，鹽澤幸一被撤職調回本國。

進攻受到重創的日軍，并沒有想要放棄，于是由新組建的第三艦隊司令官野村吉三郎中將接替鹽澤職務。

野村到職后，日軍開始增援陸軍。

早在上海局勢緊張時，日本就曾打算派遣陸軍，但是為海軍所拒絕。可隨著戰事不利，海軍不得不向陸軍求援。

2月2日，日本內閣便決定正式派遣陸軍。由于上海戰況告急，決定派出上海派遣混成旅團(旅團長下元熊彌少將)與第九師團(師團長植田謙吉中將)，并先行運送上海派遣混成第24旅團。

同時，日本海軍也增派橫須賀第2特別陸戰隊赴援上海。

混成第24旅團于7日午后在吳淞登陸。

至此，日本海陸空軍已增至萬人以上。

2月8日拂曉，日軍混成第24旅分3路向張華浜、蘊藻浜、吳淞鎮進攻，均被第三軍擊退。

2月8日，日軍在吳淞遭受重創的消息傳到東京后，根據日本天皇批準的敕令，日軍參謀總長載仁急令陸軍第九師團（師團長植田謙吉）火速增援上海。

2月13日午后，第九師團主力到達上海港，2月16日，該師團全體官兵于吳淞登陸完畢。

由此，第九師團長植田中將接替了野村的統帥職務。

此時，日本侵略軍海陸空兵力已達3萬余人，野炮六、七十門，飛機一百余架，并有艦艇數十艘集中于吳淞口。

植田首先于13日深夜發表聲明，宣稱：“如有妨害本師團執行任務者，必將采取果斷措施，決不躊躇。”

馬德尚立刻安排回應：“犯我中華者，雖遠必誅，對待入侵日軍，絕不留情！”

18日，植田又向馬德尚提出了最后通牒，稱：“貴軍應立即停止戰斗行為；并應在2月20日午后5時前，從下列地區撤退完了：在黃浦江西岸地區，從連接租界西端曹家渡鎮、周家橋鎮及蒲淞鎮以北撤退；在黃浦江東岸地區，從連接爛泥渡及張家樓鎮線以北撤退，各撤退至距離各租界邊界線20公里地區(包括獅子林炮臺)以外。同時，撤除在以上地區內的炮臺等其他軍事設施，并不得再設置。……以上各條如不見實行，日軍不得已將對貴軍采取自由行動，由此產生的一切后果，應由貴軍負責。”[

馬德尚在接到植田的最后通牒后，下令前線部隊向日軍陣地猛烈開炮，足足兩百架飛機對日軍軍艦進行地毯式轟炸，作為對植田最后通牒的回答和警告。

2月20日晨，植田令日軍全線總攻，采取中央突破，兩翼卷擊的戰法，以第9師團主突江灣、廟行結合部，企圖北與久留米旅圍攻吳淞，南與陸戰隊合圍閘北。日軍先以大炮轟擊，繼之以步兵協同坦克部隊，分兩路進犯張華浜一線和楊樹浦一線，均被中國守軍擊退；閘北日軍千余人和坦克十余輛，因觸地雷，死傷枕藉。

2月21日，植田親自指揮步兵數千人，在飛機、大炮配合下，向中國守軍陣地沖擊。

但是制空權被中方牢牢把握住，馬德尚布置的三十多門德國重榴彈炮可以輕松的打到近海的軍艦，日本的飛機、大炮、軍艦統統被壓制。

日軍傷亡慘重，戰斗延至23日黎明，日軍試圖從江灣車站包抄江灣鎮，中國守軍英勇抗擊，多次沖鋒，生俘日軍空閑升少佐及士兵數百人，日軍不支始潰退。

日本主力第9師團抵達上海后，準備對上海守軍發動第二次總攻。其計劃是從閘北到吳淞實行全線攻擊，以牽制中國軍隊兵力，主力則集中指向江灣、廟行，企圖占領這兩個要點，實現“中間突破”，切斷第三軍和第一軍的聯系，然后各個擊破。

2月22日拂曉，日軍出動飛機十余架，不斷在廟行陣地上空往返偵察轟炸，海軍艦炮及陸軍重炮向廟行陣地猛烈轟擊。與此同時，日軍炮火猛烈轟擊蘊藻浜陣地，企圖強渡蘊藻浜，以策映廟行作戰。

不過這十余架飛機很快就成為了中方戰機的獵物，瞬間被擊落，而海軍艦炮還沒有開火就被榴彈炮壓制住，紛紛撤離到安全海域，同時無法對陸地上的中國軍隊造成傷害。

戰斗已經打了接近一個月，但是上海自衛軍卻還是戰斗力十足，減員并不多，截止現在不過才損失一千多人，而日軍已經損失接近一萬人，國內報紙爭相報道，宣揚上海自衛軍的勇猛。

南京政府見狀，也開始積極應對起來，特別是在國際上獲得不少西方國家的支持。