在这种形势下，刘秀那位以天下为己任，力图恢复汉室江山的大哥刘縯自然不甘人后。
王莽地皇三年（22年），农民起义在全国已成燎原之势。刘縯便率宾客宗族八千人在家乡舂陵起兵，刘秀自然也参与其中。由于没有武装斗争经验，加上实力弱小，舂陵兵开始时军事进展并不是很顺利。
但是在一系列的作战当中，刘秀目睹了士兵抢掠百姓、婪取财物的恶行，对此他深有触动，也让他对百姓的苦难非常同情。从棘阳之战开始，刘秀便严格要求自己的下属部队，绝对不可以借着起义杀敌的名义，掳掠无辜百姓。
刘秀独立于其它武装力量的作风为他赢得了声望和威望，这也是他以后能够得到许多有才有德者追随支持的一个重要原因。
当时在南阳一带活动的农民武装主要有以王匡，王凤为首的绿林兵。所以刘縯便主动和绿林兵联系，兵合一处，共同作战。事实上这是一个双赢的合作，刘縯刘秀需要绿林兵来壮大声势，增加对抗王莽的能力，而绿林兵本是一些没有长远政治目标的流民武装，所以刘氏兄弟的加入可以提高他们政治水平、管理能力及号召力。
可是，事情总是朝着复杂曲折的方向发展。
绿林兵渐渐成了气候之后，首领们便各自在心里有了小九九。以王匡王凤为首的原绿林军集团希望能够在“反莽复汉”这面大旗下立一个汉室宗族为皇帝，而刘縯则表示反对。
之所以出现这种情况是因为：
首先，在当时各地的造反者不是自己称王称帝，就是立刘氏宗族为王，所谓打家劫舍也要师出有名，立一个领袖就是树一杆大旗，可以凝聚人心，明确奋斗方向；
其次，由于绿林兵这个军事政治集团是由原来的下江兵、新市兵、平林兵，还有舂陵兵组成，成分很复杂，结构很松散。立一个刘氏宗室为帝，可以团结人心，使队伍更加紧凑，提高号召力。
所以推举一个合适的人为帝是一个正确的主张。而刘縯则认为目前王莽未除，群雄割据，不少地方要拥立刘氏宗室，将来势必自相残杀，反而失去民心。
这有点象后来朱元璋“高筑墙，广积粮，缓称王”的道理。但事实是当时起义形势已是如火如荼，不立一个领袖的话就会失去主导权，而且绿林兵说不定哪天就会散伙。毕竟这时的情形和后来朱元璋时不尽相同，因为朱元璋当时在表面上已经服从刘福通的龙凤政权的领导，他的周围又是强邻环伺，而且他的小朝廷完全是他自己说了算，不存在内部不统一的问题。所以他可以隐忍下来躲避风头，放下身段来搞好自己的建设。
