洛阳虽然沦陷，但汉赵政权并不能完全统治这些地区，带上战利品仍旧回到自己的国都平阳。

王弥本来想游说刘曜在洛阳自立门户，然后图谋天下，但刘曜却没有理会，放火将宫殿焚毁，二人因此产生了不小的隔阂。

这时投降汉赵政权的晋朝官员刘暾发觉这一契机，然后劝王弥及早另作打算，毕竟和匈奴人的皇族发生矛盾，对以后的仕途势必造成很大困扰，最好到老家青州静观天下大势的变化，进可统一全国，退可割据一方，这是最好的策略，等到大祸临头的时候就后悔莫及了。

王弥深以为然，开始秘密和青州的曹嶷联络，准备脱离汉赵政权。

与此同时，晋王朝北方幸存的官员也开始准备复国大业了，各地都组建了临时政府以稳定当地局势。

宰相傅祇在河阴建立行台，汝阴郡长李矩则负责为他建造宫舍和粮草供应。

最高监察长荀藩和弟弟荀组等人在密县建立行台，并发布文告，推举琅邪王司马睿为盟主，荀藩本人则行使皇帝职权进行各项决策。

仓垣的最高统帅苟晞则把太子司马诠的弟弟豫章王司马端尊为太子，也建立行台，自任太子师傅、全国各军区司令长官，主管朝廷机要，然后从仓垣迁到了蒙城。

琅邪王司马睿在军政官王导的建议下，从南下逃荒的人中选了许多有识之士，连同江东的豪杰才俊也建立行台，前后共征召了106个秘书，庾亮就是在此时加入到司马睿的政治集团中，本年仅22岁，是后来著名的外戚权臣。

幽、冀二州督导官王浚在蓟县设神坛、祭告上天及五帝，尊奉某个不知名的王子为皇太子，然后也宣称代表皇帝任官封爵，建立行台，委派征、镇级大将军。

于是晋王朝南北各地同时出现了五个临时朝廷，互相层叠行使职权，天下局势变得更乱了三分。

而汉赵政权则有条不紊地继续与北方的晋军作战。

311年8月，刘聪任命安西将军刘雅为先锋、河内王刘粲与始安王刘曜则作为后继一同攻击司马模驻守的长安。

因为司马模的营门官赵染事先不满司马模的作战安排而投降了刘聪，而有了敌人的帮忙，汉赵兵团很快就突破长安城外的防线。

在晋王朝势弱的情况下，赵染其实早就有心投奔汉赵政权，但碍于面子不好直接行动，于是在蒲板驻防时特地请求司马模任命他为冯翊郡长，司马模不可能无缘无故地给他个郡长之职，于是毫不客气地拒绝了，然后赵染终于找到了台阶向着刘聪跑去。

长安虽在晋王朝的控制之下，但因为饥荒严重，不但周围人烟稀少，城内条件也异常艰苦，许多人都南下逃命了，各种物资供应不上，守军勉强在城头支撑，尤其在他们听说洛阳已经失陷、皇帝被俘之后，战斗力瞬间下滑。

反观汉赵军队锋头正盛，几路兵马长驱直入，踌躇满志地乘兴而来，一股不夺下城池誓不罢休的狠劲油然而生。