中大通四年（公元532年）四月十八，元朗抵达邙山，即将入主洛阳。然而，成功过河的高欢却不想继续保留他这座桥了。高欢以元朗是宗室疏属为由，派仆射魏兰根前往洛阳慰问，同时观察元恭的为人，如果合适的话，打算继续奉他为帝。魏兰根认为元恭一表人才，又为人精明，担心以后难以驾驭，便与高乾兄弟及黄门侍郎崔㥄等一起劝说高欢废掉元恭。高欢为此召集百官征询应该立谁为帝，兹事体大，一时没人敢作声，唯有太仆綦毋俊盛赞元恭贤明，应该以他为社稷之主，高欢深以为然。崔㥄声色俱厉道：“如果要说贤明，自然应该等待我们高王慢慢登上皇位。广陵王（元恭）既然是由叛乱的胡人所立，怎能还让他做天子？如果听从了綦毋俊的话，大王的队伍如何称得上义举？”崔㥄的这番话一下子提醒了高欢，元恭既是尔朱氏所立，如果不把废了，那么自己的起兵就找不到合法性。更关键的是，崔㥄还提到最终要将高欢推上皇位，要达成这个终极目的，元恭也必须下台。高欢马上改变立场，将元恭幽禁在崇训佛寺。高欢还曾想过立元悦为帝，但经过一番接触和打听，了解到他为人狂暴无常，最终放弃。至于说元法僧，眼见无隙可乘，又灰溜溜的回到南梁，一直活到八十多岁才寿终正寝。综合评估之下，高欢想立尚书左仆射、平阳王元修为帝，便派斛斯椿去寻找他。
元修，元宏之孙，元怀之子，为人博学多才，喜好武事，性格沉稳且厚重，时年二十二岁。
当时，北魏诸王大多逃走或藏匿，斛斯椿找到元修所亲信的员外散骑侍郎王思政，向他打听元修的下落。王思政道：“我要知道您为何找他。”斛斯椿道：“想立他为皇帝。”王思政这才说出元修在什么地方。斛斯椿随王思政去见元修，元修见了他们脸色大变，对王思政道：“你不是要出卖我吧？”王思政道：“当然不是。”元修又问道：“你敢保证吗？”王思政答道：“天下事千变万化，如何保证呢？”王思政，出身太原祁县王氏，自称东汉司徒王允之后，体貌高大雄伟，有谋略，元诩时代曾担任员外散骑侍郎。元颢率军讨伐关陇叛军时，推荐王思政随军，军中所有谋划都与他商讨。元颢回军后，元修招引王思政为自己的门客，礼遇甚为优厚。斛斯椿飞马向高欢作了汇报，高欢派四百名骑兵将元修接入毛毡大帐中，向元修表达自己的诚挚之心，言谈之际泪落沾襟。第二天早晨，因军中无法备朝服，所以文武百官都执鞭朝拜元修，高欢让斛斯椿送上劝进表。元修命王思政接过劝进表，看过之后道：“我也只好即位称朕了。”四月二十五，元修在洛阳东郭外即皇帝位，是为孝武帝。登基仪式采用鲜卑旧制，将黑毡蒙在七个人身上，高欢是其中之一。即位后，元修立即将高欢拜为大丞相、天柱大将军、太师、世袭定州刺史。当初，高欢从信都起兵时，尔朱世隆知道司马子如跟高欢有旧交，便将司马子如从侍中、骠骑大将军的职位上调离到南岐州任刺史。高欢进入洛阳后，征召司马子如为大行台尚书，从此司马子如便朝夕在高欢身边，参与军国大事。广州刺史韩贤一直深受高欢赏识，高欢进入洛阳后，凡是尔朱氏所任命的官爵都废除，只有韩贤保持不变，而韩贤也就此投入高欢麾下。四月二十九，高欢回到邺城，将尔朱度律、尔朱天光送到洛阳杀掉。五月初三，元修在门下省用药酒毒死元恭，然后下诏各部门用隆重的礼仪将其安葬。是年底，元修又先后杀了元朗、元晔以及元悦，将所有曾被立为皇帝或者曾被考虑立为皇帝的宗室全部清除。在这件事上，元修干得很不地道，傀儡何苦为难傀儡呢？七月初十，经过两个多月的休整，高欢率兵进入滏口，大都督库狄干率兵入井陉，一起攻打尔朱兆。七月十八，元修派高隆之率步骑十万人与高欢在太原会师，高欢以高隆之为丞相军司。高隆之，出身渤海高氏，父亲高干曾任雍州刺史，他和高欢也是旧交，后成为北齐的开国功臣之一。大军汇合后，高欢进军至武乡，尔朱兆先在晋阳大肆抢掠一番，然后逃奔秀容，并州就此平定。因晋阳四面有山为屏障，高欢便在此建立大丞相府，之后一直以晋阳为自己的根据地。逃到秀容后，尔朱兆分兵把守险隘，四出侵掠。为了彻底解决他，高欢决定以计取之，他先扬言大举出兵，军队出发后忽然又停止讨伐。连续这样搞了多次，让尔朱兆产生误判，认为高欢根本没有能力或者把握击败他，心里便懈怠下来，防备也变得松弛。估计尔朱兆可能在年初举行宴会，高欢将决战之期定在了第二年初，派都督窦泰率精骑急行军，一天一夜行军三百里，高欢率大军随后进发。中大通五年（公元533年）正月，窦泰率领军队突然攻到尔朱兆的大本营。不出所料，尔朱兆的军队因为正在摆宴而疏于防守，看到窦泰的军队后全都落荒而逃，在赤岭被追上，溃不成军，不是投降就是逃散。仅带着几名随从的尔朱兆逃到荒山之中，走投无路下命在身旁侍奉的张亮以及仆隶陈山提砍下自己的头颅投降，张亮与陈山提都不忍下手，尔朱兆便亲手杀掉自己所骑的白马，然后吊死在树上。高欢亲自来到尔朱兆自杀的地方，为他举行隆重的葬礼。慕容绍宗带着尔朱荣的妻子、儿女以及尔朱兆剩余的人马向高欢投降，高欢看在过去的交情上，都给予他们优厚的待遇，慕容绍宗也由此成为高欢的部将。尔朱兆在秀容时，身边近臣都悄悄地向高欢表示投靠之意，唯独张亮没有写信联系。高欢赞赏他的气节，将其任命为丞相府参军。尔朱兆之死，标志着曾不可一世的尔朱氏彻底退出历史舞台，而距离他们走上北魏权力巅峰不过五年，正所谓眼见他起高楼，眼见他楼塌了。
