與此同時，上海市工部局在2月25日對日本總領事作了答覆。工部局宣稱，它將繼續使緊急佈告充分發生作用，它邀請日本便衣警察參加搜查中國嫌疑犯，它還說，只要能得到補充人員，就可以使工部局巡捕房的日本巡捕達到規定人數。但它堅決不允許日本警察或憲兵在公共租界內採取單獨行動，雖然它歡迎上海工部局巡捕和日本警察之間進行合作，只要這是由雙方警察領導人商定的，並且日本警察和憲兵在同工部局巡捕合作時穿著便衣。
日本總領事2月28日的答覆，表示對工部局的回答有些不滿。但他不承認有在公共租界內採取單獨警察行動的任何意圖，他並且接受了工部局關於進行合作的建議。不過，他不僅要求增加工部局巡捕房日本巡捕分隊的實力，而且要求接受日本人先前提出的建議，即任命合格的日本人到工部局巡捕房外國巡捕分隊中任職，並增加工部局巡捕房日本高階職員所掌握的權力。但是日本人不準備在這個時刻把事情做得太過分，經過進一步的討論，結果在3月4日達成了一項協議。根據這項協議，上海市工部局巡捕房應與日本領事館警察和憲兵共同合作以鎮壓恐怖分子活動，但這種合作必須取得工部局巡捕房總巡的同意。總巡“準備對下列建議給予同情的考慮：在現在的刑事處組織內設定一個綜合課，由一名日本高階職員率領幾名經過挑選的日本下級人員主持其工作”。這個課將負責在處理抗日恐怖活動時同日本領事館警察和憲兵進行聯絡的工作。3月14日，工部局公佈了這項協議，並趁機否認了以下這種傳說，即日本憲兵將要進駐上海市工部局各巡捕房內，將要允許他們監督工部局巡捕房的中國人員。實際上，工部局在它仍能控制的那部分公共租界內的行政權力並沒有受到損害。蔣介石在3月11日對以下一項報道表示關切，即凡是在公共租界內有抗日活動嫌疑的人都將歸日本當局審訊。對此，英國大使阿奇博爾德·克拉克·克爾爵士（後為英弗查佩爾勳爵）在3月17日向他保證說，這並非事實，被日本人控告有恐怖活動的人，將由工部局巡捕房逮捕並審訊。
事情就這樣暫時到此為止，雖然一直有謠傳說日本人即將對公共租界發動武裝進攻。英國駐上海總領事赫伯特·菲利普斯爵士在4月17日的一封電報中提到了此事，並且還提到當地的日本報紙以及南京和上海的日本人扶植的政權都在發動一場反對上海工部局的運動。但是他認為，日本人在使用武力之前，無論如何將寧願靜待預料中的歐洲戰爭爆發，而不願冒同英國和美國發生糾紛的危險。不過，他怕他們可能會要求在公共租界內建立一個日本警察控制網，如果不答應他們，就要實行經濟封鎖，從而使食品供應和基本公用事業被切斷。
5月初，日本人又一次採取行動。2日，駐在上海的日本海軍當局發表了一個宣告，宣稱工部局採取的鎮壓公共租界內抗日分子的措施是不夠的。它還支援日本人扶值的上海市政府市長傅筱庵以前提出的要求。傅要求允許他的警察進入公共租界，以協助鎮壓恐怖分子；中國的國旗（即國民黨的國旗）不應當在公共租界內懸掛；公共租界內的中國法院和設在那裡的中國地政局的房地產地契及其他檔案都應移交給他的政府。
5月3日，日本外務省次官交給羅伯特·克雷吉爵士一份關於上海公共租界的備忘錄。這是涉及到英國大使2月28日提出的那份抗議書的，他在抗議中曾說，公共租界管理制度的改變只能透過談判並取得一切有關方面的同意才屬有效。日本的備忘錄宣稱，公共租界管理制度所依據的土地章程，自從1866年以來基本上沒有變動過，現在迫切需要加以修改。日本在工部局內的代表權應當擴大，日本籍巡捕和其他官員應在公共租界的總的管理體系中佔有更大的份額。這樣“才能使日本有可能在公共租界的管理中進行積極的合作”，並“保證它的管理機器順利運轉”。工部局還應當同中國人的市政府合作，允許它控制公共租界中的中國法院，並把土地登記冊移交給它。還應該對公共租界中的恐怖活動更加嚴厲地控制。日本政府“正嚴重關切地注視著公共租界的被不法分子所利用，以之作為他們非法活動的一個基地”。
一份內容相同的檔案交給了美國駐東京大使。5月4日，日本駐上海總領事把這份備忘錄的副本交給了英國和美國的總領事和工部局總董。為了避免給日本人以進行武裝攻擊的任何藉口，工部局同法租界當局一起，在5月11日發表了一份聯合公告，禁止在這兩個地區內進行一切政治活動，違者將被驅逐出境；宣稱在必要時將實施嚴格的宵禁條例；並威脅說，有破壞和平