艦，就算你全艦一致，碼頭上不給你加煤，所謂軍艦也就是個浮在水面上的鐵盒子而已，所以海軍發生兵變的可能性幾乎為零，因此在陸軍搞軍政軍令分離時海軍沒有跟著學。海洋海面分成“海軍區”，海軍艦船分配給分設的“鎮守府”管轄。最早是1875年在橫濱設立的“東海鎮守府”，後來移到橫須賀改名為“橫須賀鎮守府”。當時還計劃在長崎設個“西海鎮守府”，但一直沒設立起來，倒是在1889年又加上了吳和佐世保兩個鎮守府，1901年又設立了舞鶴鎮守府，成了四個海軍區。原來還曾經計劃在北海道的室蘭設立一個鎮守府，但沒有實現。1905年日俄戰爭以後還設立了一個旅順鎮守府，一直到第一次世界大戰時的1914年才撤銷。
和1878年就從陸軍省獨立出來的參謀本部相比，軍令部從海軍省獨立出來是15年後的1893年，而且一開始的名稱還是“海軍軍令部”，把“海軍”這個定語去掉又花了40年，到1933年才成了“軍令部”。
參謀本部獨立的時候，海軍連參謀部都還沒有，相當於參謀部的一部分職能由海軍省軍事部在執行，而日本海軍學的是英國，所以一開始在組織上沒有參謀部也很正常。到現在英國皇家海軍和美國海軍都沒有“參謀部”這個名字，英國皇家海軍更為邪門，雖然沒有海軍參謀部，但海軍大臣（也叫“首席海軍卿”， First Sea Lord）居然同時是“海軍總參