事，煬帝命令丘懷義親自把敕書送交梁郡通守楊汪，讓他去收捕李密等人。楊汪派兵包圍了王秀才家，正好李密外出，因而倖免，丘君明、王秀才都被官府處死。
韋城翟讓為東都法曹，坐事當斬。獄吏黃君漢奇其驍勇，夜中潛謂讓曰：“翟法司，天時人事，抑亦可知，豈能守死獄中乎！”讓驚喜曰：“讓，圈牢之豕，死生唯黃曹主所命。”君漢即破械出之。讓再拜曰：“讓蒙再生之恩則幸矣，奈黃曹主何！”因泣下。君漢怒曰：“本以公為大丈夫，可救生民之命，故不顧其死以奉脫，奈何反效兒女子涕泣相謝乎！君但努力自免，勿憂吾也！”讓遂亡命於瓦崗為群盜，同郡單雄信，驍健，善用馬槊，聚少年往從之。離狐徐世家於衛南，年十七，有勇略，說讓曰：“東郡於公與皆為鄉里，人多相識，不宜侵掠。滎陽、梁郡，汴水所經，剽行舟，掠商旅，足以自資。”讓然之，引眾入二郡界，掠公私船，資用豐給，附者益眾，聚徒至萬餘人。
韋城人翟讓是東都的法曹，因為犯罪該當被處死。獄吏黃君漢認為翟讓驍勇不尋常，於是在夜裡悄悄對翟讓說：“翟法司，天時人事，也許是可以預料的，哪能在監獄裡等死呢？”翟讓又驚又喜，說：“我翟讓，是關在圈裡的豬，生死只能聽從黃曹主的吩咐了。”黃君漢當即給翟讓開啟枷鎖，翟讓再三拜謝說：“我蒙受您的再生之恩得以倖免，但黃曹主您怎麼辦呢？”於是流下淚來。黃君漢發怒道：“我本以為你是個大丈夫，可以拯救黎民百姓，所以才冒死來解救你，你怎麼卻象兒女子弟一樣以涕淚來表示感謝呢？你就努力設法逃脫吧，不要管我了！”於是翟讓逃亡到瓦崗為盜。與他同郡的單雄信，驍勇矯健，擅長騎馬使矛，他招集年輕人去投奔翟讓。離狐人徐世家在衛南，十七歲，有勇有謀，他勸說翟讓：“東郡對於您和我都是鄉里，那裡的人大都認識，不宜去侵犯搶掠他們。滎陽、梁郡，是汴水流經的地方，我們搶劫行船，掠奪商人旅客，就足以自給。”翟讓同意他的建議，於是就率眾進入滎陽、梁郡的境界，搶掠公私船隻，因此供給充裕，來歸附的人越來越多，徒眾達一萬餘人。時又有外黃王當仁、濟陽王伯當、韋城周文舉、雍丘李公逸等皆擁眾為盜。李密自雍州亡命，往來諸帥間，說以取天下之策，始皆不信。久之，稍以為然，相謂曰：“斯人公卿子弟，志氣若是。今人人皆雲楊氏將滅，李氏將興。吾聞王者不死，斯人再三獲濟，豈非其人乎！”由是漸敬密。
當時還有外黃人王當仁，濟陽人王伯當，韋城人周文舉，雍丘人李公逸等都聚眾為盜。李密從雍州逃亡後，就往來於各部首領之間，向他們遊說奪取天下的謀略。開始大家都不信，時間長了，他們漸漸相信了，五相說道：“此人是公卿子弟，有這樣的志氣、抱負，現在人們都說楊氏將滅，李氏將興，我聽說能成王業的人不會死，此人多次能渡過難關，難道他就是將成帝業的李姓人嗎？”於是他們漸漸敬重李密。
密察諸帥唯翟讓最強，乃因王伯當以見讓，為讓畫策，往說諸小盜，皆下之。讓悅，稍親近密，與之計事，密因說讓曰：“劉、項皆起布衣為帝王。今主昏於上，民怨於下，銳兵盡於遼東，和親絕於突厥，方乃巡遊揚、越，委棄東都，此亦劉、項奮起之會也。以足下雄才大略，士馬精銳，席捲二京，誅滅暴虐，隋氏不足亡也！”讓謝曰：“吾儕群盜，旦夕偷生草間，君之言者，非吾所及也。”
李密觀察各部統帥，只有翟讓勢力最強，於是由王伯當引見見到了翟讓，他為翟讓出謀劃策，去遊說勸導諸小股盜賊，他們都歸附了翟讓。翟讓很高興，漸漸信任李密，與他商議事情。李密趁機勸翟讓說：“劉邦、項羽都出身平民而作了帝王，如今上面是皇帝昏庸，下面是百姓怨憤，精銳兵力都在遼東喪失了，突厥也斷絕了和親的關係，煬帝還在巡遊揚、越一帶，丟棄了東都，現在也是劉邦、項羽之輩奮起的機會。以您的雄才大略，兵馬的精良，可以席捲東西二京，誅滅暴君，隋氏完全可以滅掉！”翟讓向李密推辭說：“我輩身為群盜，旦夕都在草叢之間偷生，你所說的，不是我輩所能想到的。”
會有李玄英者，自東都逃來，經歷諸賊，求訪李密，雲“斯人當代隋家。”人問其故，玄英言：“比來民間謠歌有《桃李章》曰：‘桃李子，皇后繞揚州，宛轉花園裡。勿浪語，準道許！’‘桃李子’，謂逃亡者李氏之子也；皇與後，皆君也；‘宛轉花園裡’，謂天子在揚州無還日，將轉於溝壑也；‘莫浪語，誰道許’者，密也。”既與密遇，遂委身事之。前宋城尉齊郡房玄藻，自負其才，恨不為時用，預於楊玄感之謀，變姓