書畫，舅張融有高名，杲風韻舉動，頗類於融，時稱之曰：“無對日下，惟舅與甥。”起家齊中軍法曹行參軍，太子舍人，衛軍王儉主簿。遷尚書殿中曹郎，拜日，八座丞郎併到上省交禮，而杲至晚，不及時刻，坐免官。久之，以為司徒竟陵王外兵參軍，遷徵虜宜都王功曹史，驃騎晉安王諮議參軍，司徒從事中郎。梁臺建，以為驃騎記室參軍，遷相國西曹掾。天監元年，除撫軍長史，母憂去職。服闋，拜建威將軍、中軍臨川王諮議參軍，尋遷黃門侍郎，右軍安成王長史。五年，遷御史中丞。
杲性婞直，無所顧望。山陰令虞肩在任，贓汙數百萬，杲奏收治。中書舍人黃睦之以肩事託杲，杲不答。高祖聞之，以問杲，杲答曰“有之”。高祖曰：“卿識睦之不？”杲答曰：“臣不識其人。”時睦之在御側，上指示杲曰：“此人是也。”杲謂睦之曰：“君小人，何敢以罪人屬南司？”睦之失色。領軍將軍張稷，是杲從舅，杲嘗以公事彈稷，稷因侍宴訴高祖曰：“陸杲是臣通親，小事彈臣不貸。”高祖曰：“杲職司其事，卿何得為嫌！”杲在臺，號稱不畏強禦。
六年，遷秘書監，頃之為太