瓦岗军首领翟让，为人厚道，又喜欢结交英雄，翟让在东郡附近的瓦岗寨，招集了一些贫苦农民，组织了一支起义队伍。当地一些青年人，听到这个消息，都来投奔他。
李密投奔翟让以后，帮助翟让整顿人马，并对翟让说：“从前刘邦、项羽，本来也是普通老百姓，后来终于*秦朝。现在皇上昏庸*，百姓怨声载道，官军大部分又远在辽东。您手下兵强马壮，要拿下东都和长安，打倒暴君，还不是轻而易举的事！”翟让于是起兵反隋，隋炀帝派大将张须陀带大军*翟让大军。
李密请翟让摆开阵势，正面迎击敌人；他自己带了一千人马在荥阳大海寺北面的密林里设下埋伏。张须陀也被起义军打死了。经过这一场战斗，李密在瓦岗军里提高了威信。李密不但号令严明，而且生活朴素，凡是从敌人那里缴获来的钱财，他都分给起义将士。
隋王朝建造了一个最大的粮仓叫兴洛仓也叫做洛口仓，仓城周围二十多里，城里挖了三千个大窖，每个窖里贮藏着八千石粮食。这都是隋王朝多年来从各地农民身上搜刮来的血汗。李密于是提议攻打东都附近的兴洛仓（在今河南巩县）。
攻打兴洛仓的时候，翟让、李密两人带七千名兵士原是流离失所的农民，一听得攻打官府的粮仓，个个摩拳擦掌，勇气百倍。他们向兴洛仓发起猛攻。驻守在兴洛仓的隋军还想顽抗，但是怎么也抵挡不住像插翅猛虎一般的瓦岗军。兴洛仓被攻破了。
瓦岗军攻破兴洛仓以后，立刻发布命令，开仓分粮。兵士们打开一口口粮窖，让老百姓尽情地拿。受饥挨饿的农民从四面八方拥向粮仓，前来领粮。大伙对瓦岗军的感激心情，就不用提了。！