北魏迁都洛阳后，将统治重心转移到中原，北方逐渐荒废，经常闹饥荒，百姓生活困顿，由此引发了一系列的问题。天监二年（公元503年）十二月，元恪加任尚书左仆射源怀侍中、行台，让他持节巡视北方六镇以及恒、燕、朔三州，救济贫民，考核官吏，政事之得失都由他先做处理，然后再上报朝廷。
所谓六镇是指北魏在北方边境设置的六个军镇，自西而东为沃野镇、怀朔镇、武川镇、抚冥镇、柔玄镇和怀荒镇，主要安置鲜卑部族。
随着元宏的汉化改革以及迁都洛阳，北方六镇的地位急剧下降，和南迁的鲜卑贵族越来越割裂，形成两个阶层。
源怀，源贺之子，为人谦恭宽雅，颇有大度，起家侍御中散，后升任雍州刺史。源怀为政清俭，爱护百姓，督军讨伐柔然，因功升尚书令。元宏在位时，源怀曾随驾南征，历任司州、夏州和雍州刺史。源怀到达北方后，普济民众，饥民们对他非常感激和信赖。不久，他获悉沃野镇将于祚仗着皇亲国戚的身份，在当地大肆贪污受贿。于祚，于烈之子，于皇后的伯父，还是源怀的亲家。由于特殊的身份，于祚丝毫不觉得源怀会对自己怎么样，亲自到郊外迎接。然而，源怀根本不与他搭话，当场检举弹劾他的罪状，免去他的官职。怀朔镇将元尼须与源怀有旧交，如今也以贪秽声名狼藉，置办酒席宴请源怀，对他道：“我命之长短完全取决于您的一句话，既为旧交，岂能不放我一马呢？”源怀正色道：“今天是源怀与过去的老相识坐在一起饮酒，不是审讯犯人的地方，明天的公庭才是我检举揭发你的地方。”元尼须听源怀这么说，挥泪不已，无言以对。最后，源怀查证了他的罪行，依法处理。巡视结束后，源怀上奏朝廷道：“边镇事情不多，设置的官职却不少，比如沃野镇从镇将以下有八百多人，请减去五分之二。”元恪从之。天监三年（公元504年）秋，柔然入侵沃野镇和怀朔镇，元恪诏令源怀前往讨伐，凡是指挥布置、军需物品的调发等，都授权他全权处理。和以往一样，当源怀到达云中时，柔然人已远遁而去。源怀认为用中原的方法制服柔然，最好是修筑城池。为此，他先到恒、代一带视察各镇的要害之地，选定可以修城筑寨之处，计划从东到西修筑九座城池，以及选定适合于储备粮食兵器而呈犬牙交错之势可以互相救援的据点，共五十八条建议，表奏朝廷。源怀认为：“迁都洛阳后，远离北方，代京以北的部落多有外叛，同时又遭受旱灾，出现饥荒，以致戎马甲兵十缺其八。臣建议，应该依照旧镇在此修筑城堡，分兵把守要害之地，平时令他们屯田积粮，紧急时可以应战。柔然游骑之寇，终不敢攻城，也不敢越过城堡而南下。如此，北方可以无忧。”元恪同意了他的建议。客观来说，源怀的策略有一定可取之处。但北方六镇的问题，柔然入侵只是外因，内因才是最主要的。由北方六镇，我们再看一看柔然。天监五年（公元506年）秋，柔然可汗郁久闾那盖去世，其子郁久闾伏图继立，号称佗汗可汗。即位后，郁久闾伏图有意与北魏讲和。十月十七，郁久闾伏图派使者纥奚勿六跋前往北魏修好。然而，元恪却不愿意和解，不仅没有派使节回访，还对纥奚勿六跋道：“你们的远祖社仑乃是我国叛臣，过去我们包容他，暂时允许互通使节。现在你们衰落了，大不如前，而我们魏国的仁德正和周、汉一样方兴未艾，只是因为江南尚未平定，懒得对你用兵，和好之事就不要想了。如果你们能执藩国之礼，证明诚意，那就另当别论。”完全一副天朝上国的口吻。元恪的意思很明白，求和是不可能的，只有臣服这一条路。郁久闾伏图毕竟也是要面子的，没有同意。拓跋弘在位时，柔然有一万多户前来归降，被安置在高平、薄骨律二镇。元宏末年，这些柔然人叛逃殆尽，仅剩下一千余户。元恪即位后，太中大夫王通建议将他们迁到淮北，使他们再也无法叛逃，元恪诏令太仆卿杨椿负责此事，杨椿上表道：“先朝之所以把他们安置在边境，是为了招附异族，区别华戎。现在，新归附的人口特别多，如果他们发现之前归附的人被迁移，必定不能自安，这是逼着他们叛逃。而且，这些人衣毛食肉，不避寒冷，南方潮湿闷热，把他们迁到那里，他们定会病死。此举不但会失去境外归附之心，也会失去藩卫边境之益，还可能造成后患。臣以为，如此并非良策。”反对将他们迁到淮北。杨椿的建议最终未被采纳，这些柔然人都被迁到济州，让他们沿黄河边居住。元愉叛乱时，这些人都渡过黄河投奔元愉，一路抢劫掠夺，一切正如杨椿所料。天监七年（公元508年），郁久闾伏图再派纥奚勿六跋向北魏进献貂裘，元恪拒不接受，还像上次同样答复。在此之前，高车部落发生变故，储君被唁哒所杀，儿子弥俄突也被他掳走，部众分散，有的投奔北魏，有的投靠柔然。元恪为此派羽林监孟威接纳、安抚前来投降的人口，将他们安置在高平镇。这时，高车王阿伏至罗又被国人所杀，立族人跋利延为王。唁哒带上弥俄突讨伐高车，高车国人杀了跋利延，迎接弥俄突回国并立为王。随后，郁久闾伏图也参与其中，率军与弥俄突在蒲类海交战，大破之，弥俄突西逃三百多里，郁久闾伏图驻军于伊吾北山。正好高昌王麴嘉请求内迁北魏，元恪又派孟威带领三千凉州兵去迎接，到达伊吾时，郁久闾伏图以为北魏是来讨伐自己的，落荒而逃。得知郁久闾伏图被吓跑，弥俄突趁机追击，大破之，在蒲类海北杀了郁久闾伏图，割下他的头发送给孟威，并派使者到北魏进贡。郁久闾伏图被杀后，他的儿子郁久闾丑奴继位，号为豆罗伏跋豆伐可汗。郁久闾丑奴身体高大，骁勇善战，立志为父报仇。天监十五年（公元516年），历经八年的蛰伏，郁久闾丑奴终于复仇成功，大破高车，抓获弥俄突，将他的脚拴在马后拖死，又将他的头颅制成饮酒的器皿。之后，邻国中凡是从前归属柔然后来又叛变的，都被郁久闾丑奴所消灭，柔然重新强大起来。而与此同时，北魏已不知不觉走在了下坡路，宿敌之间又开始了新一轮对抗。
