再说刘蜀来到建康，宣读晋愍帝诏命，催促司马睿起军北伐，以解关中之围。司马睿一开始推说杜弢为患，等杜弢被灭后，司马睿又敷衍说杜曾还在。

    刘蜀听了大哭道：“杜曾对于我晋朝来说不过癣疥之疾，匈奴却是心腹之患。现在晋朝就要被汉国灭了，长安危如累卵，收复中原的大任都担在您的身上。您怎么可以这样推脱呢？”

    司马睿没办法，便问谁愿意领军北伐。这时候从东晋逃来的旧将亡故的亡故，年迈的年迈，剩下的新兴将领都不愿意北伐，只有一个人站起来朗声道：“我不忍看到留在中原的晋朝遗民被胡羯残害，我愿意带兵北复中原。”

    这个人是军咨祭酒范阳祖逖。成语“闻鸡起舞”说的就是此人。祖逖曾经和刘琨一同为司州的主簿，二人感情深厚，不仅常常同床而卧，同被而眠，而且还有着共同的远大理想：建功立业，复兴晋国，成为国家的栋梁之才。

    一次，半夜里祖逖在睡梦中听到公鸡的鸣叫声，他一脚把刘琨踢醒，对他说：“别人都认为半夜听见鸡叫不吉利，我偏不这样想，咱们干脆以后听见鸡叫就起床练剑如何？”刘琨欣然同意。于是他们每天鸡叫后就起床练剑，剑光飞舞，声响铿锵。春去冬来，寒来暑往，从不间断。功夫不负有心人，后来两个人都成为能文能武的全才。刘琨成为晋朝留在北方的唯一一支重要军事力量，大大地牵制了汉国；而祖逖则一度收复了黄河以南的大片失地。

    司马睿本来没有北伐之意，召集众将无非是做做样子。但见祖逖慷慨陈词，涕泪直下，说得十分悲壮，刘蜀也在一旁连连点头。他只好任命祖逖为奋威将军、豫州刺史，令其北伐。但并不给一兵一卒，只拨给祖逖一千人三日的口粮，还有三千匹布。让祖逖自己去造兵械，铸盔甲，招募士兵。祖逖也不和司马睿讨价还价，回到扬州故地，带了一百多名旧将和他们的家属渡过长江。

    大船行到江心，祖逖回过头去再望江南，心情不由激昂起来，手拍船楫发誓道：“我祖逖此行如果不能光复中原，则如大江，一去不返！”众人听了无不感到振奋，个个斗志昂扬。当日来到淮阴，便建起冶铁炉，开始打造兵器，就地招募战士。江北的晋民听说晋朝派人来北伐了，争先前来当兵，仅仅十日，便募得两千多人。祖逖北伐的时候，西晋的首都长安却遭到灭顶之灾。

    司马邺的地盘并不大，刘聪几次来攻长安，弄得长安的农民种不成粮食，经济大受影响。结果长安朝廷的财政出现了严重的赤字，人民的生活水平也不断降低。为了解决财政问题，司马邺只好派人盗汉墓。

    刘聪听说司马邺靠盗墓度日，大喜道：“晋朝就快要完了，他们现在要靠挖人家祖坟才能勉强度日，足见其国力已经十分虚弱，必可灭之！”当即挑出最精壮的士兵十万，准备再攻长安，仍然以刘曜为帅。又命石勒牵制晋阳刘琨、代北猗卢，使其不能南援。

    刘曜这位常败将军又当了元帅，不由百感交集，他对刘聪道：“我这些年来尽给您打败仗了，虽然您从来没有怪罪我，我却没脸活在这世上。我之所以苟且至今，是因为我一直在训练士卒，操演军队，准备一雪前耻，平复关中。这次再去关中，如果战败，必当战死沙场，不再回来。”这一年为建兴四年（316）。

    刘曜带兵渡过黄河，先攻下冯翊（大约在今陕西韩城），再进兵北地（今宁夏吴忠西南）。北地是个易守难攻的坚城，太守麹昌拼命守住城池，并向长安求救。长安方面急忙以麹允为大都督，率军三万去救。

    刘曜一方面派人在城外点起大堆的柴草，令其冒起冲天的黑烟，另一方面派了一些会说陕西话的士兵装成老百姓，又抓来城外的老弱妇孺混在其间，冒充逃难百姓向南逃去。路上遇了麹允的军队都说北地城被攻下了，麹昌战死了。麹允