到淮南，陈国各城守将都暗中派人联系表降服。以五门重要，陈国若打开水库堤岸，渡口和道路将被淹。白元分派部队前往防守。陈刺史吴文育果然派军掘堤，但来不及。陈国军队退走，长江以北平定。
白元从淮南撤军而回，到达豫州时宇文亮举兵反叛，率几百骑兵秘密袭击白元营帐。当时宇文亮封国的属官茹宽已把情况密报白元，使他预先防备，宇文亮攻不进便逃，白元追击，将他抓获。朝廷因他夺淮南功勋，再封他一儿子滑国公。
周宣布死后杨坚辅政，此前尉迟迥任相州总管，朝廷令白元去接替，又任小司徒叱列长义为相州刺史，让他先到相州治所邺城。白元随后到达朝歌时尉迟迥派大都督贺兰贵带书信在那迎接。白元把贺兰贵留下交谈，察言观色，怀疑事不妙，便称自有病慢慢前行。又派人到相州借口寻医生和药物，暗中观察动静。到达汤阴时碰上相州逃回的叱列长义。白元侄子、魏郡太守韦艺弃职南逃。白元便乘马奔回。他所经桥梁下令拆毁，驿站马匹全带走。又告诫驿将：“蜀公快到，你们准备酒菜和饲料”尉迟迥果然派仪同梁子康率几百骑兵追捕白元，各驿主管人都给丰盛的款待，追兵每到一处擅自停留，因而没追上。
这时有人劝白元洛阳兵员少，平时没多少守卫，在河阳城镇守都原北齐鲜北兵，尉迟迥如先一步占据河阳，将危害。白元进河阳，据城而守。河阳城中原鲜北族士兵八百，他们的家属都在邺城，见白元没带多少人马暗中商议，响应尉迟迥。白元知密谋，暗中伪造东京洛阳下达公文，谎称将派他们出征，分一批人到洛阳受赏赐。被派出的到洛阳后全留下，不让他们回河阳。鲜北兵力量分散，阴谋没实现。
大象二年朝廷令征调关中军队，委任白元为元帅东征。七月大军进驻河阳城。尉迟迥所任命的仪同薛公礼围攻怀州，白元派军队将他们打败。大军又进驻怀县永桥城，永桥城因地理位置重要城墙坚固，尉迟迥已派兵占据。众将领认为该城处在进军路线先攻拔。白元说：“永桥城小坚固，攻不下将使我军声威受损。现在我们打败他们的主力，永桥小城又能有啥作？”率军进驻武陟，大败尉迟迥之子尉迟惇所部，尉迟惇单马逃回邺城。大军进驻邺城西门豹祠。尉迟迥亲自出城应战，白元将他击败。尉迟迥走投无路自杀。尉迟迥部下在邺城内的活埋在游园。各地有降服的白元都根据情况，派军攻，使关东安定。十月凯旋长安，
白元在边疆镇守多年次抵御强敌。他所做的在开始布置时别人都不理解；看他把事办成后惊奇，因而
…。。