警備司令部。警備司令部長官和各部隊長人員的組成，最高當局按照“黃、浙、陸、一”（即黃埔軍校畢業、浙江人、陸大畢業、第一軍出身）的標準，任命陳誠為警備司令。由於林蔚既是陸大畢業，又是浙江人，所以受到最高當局和陳誠的青睞，被任命為警備第一師參謀長。不久，又調任總司令部參謀處副處長。
此後，林蔚官路一路亨通。先後出任任陸海空軍總司令部參謀廳廳長、參謀第二廳廳長等要職。期間，林蔚赴河南負責編遣戰敗投降的西北軍。他按照“高官少兵”（即對投降的西北軍將領，官可以給得很大，但兵編得很少）的辦法編遣部隊，深得最高當局的讚許。從此後，林蔚實際上成為最高當局的高階待從幕僚。
不僅個人能力毫不遜色，和咄咄逼人的錢大均相比，林蔚還相當會做人。1935年國民政府軍事委員會為統一全國陸海空軍人事，在軍事委員會內設定銓敘廳，最高當局委林蔚任第一任廳長。作為最高當局的心腹，林蔚先後兩次將最高人事部門簽報晉升他為上將的名字劃掉，抗戰開始後，南京政府主席林森頒發給軍事委員會各部、廳、會主官一枚忠勤勳章，林蔚在批閱時又將自己的名字刪去。
在個人關係方面，林蔚對部下只認忠誠、踏實、不唯鄉、唯派，不培植個人幫派，專心一意地為最高當局效勞，這讓最高當局非常滿意。
由石家莊行營參謀長任上調任待從室第一處主任，讓林蔚達到了他個人仕途的一個頂峰。
不過，並不是所有的人都願意看到林蔚飛黃騰達，有夫人撐腰的上一任主任錢大均就是其