就在大战一触即发之际，魏国大司马曹真病逝。曹休、曹真等人先后病逝，对魏国来说不是好消息，同时还埋下一个巨大的隐患：军事大权进一步控制在司马懿手中。
自魏明帝曹叡登基以来，司马懿屡建奇功，展现了高超的军事指挥水平，其才能也得到皇帝的赏识。司马懿以迅雷不及掩耳的速度扑灭孟达的反叛，这是他军事指挥生涯中的一个代表作。战后，他又收降蜀国将领姚静、郑他及其部属七千余人。司马懿都督荆、豫两州军事，因为这两州东邻吴国，西邻蜀国，所以他曾向皇帝献上伐吴之策，只可惜曹休被孙权诱击，兵败石亭，伐吴之策未能施行。公元230年，司马懿升任大将军，加大都督、假黄钺。曹真去世后，皇帝曹叡对司马懿说：“西方有事，非君莫可付者。”抵挡诸葛亮入侵的重任，便落在司马懿身上。
司马懿临危受命，从宛城西赴长安，全权负责西部战事。车骑将军张郃、后将军费曜、征蜀护军戴陵、雍州刺史郭淮等人，均受司马懿节制。
诸葛亮又一次把北伐的方向指向祁山。在之前的三次伐魏行动中，第一次是越过祁山，第二次走陈仓道，第三次攻武都，实际上是扫清通向祁山的障碍。由此可见，兵出祁山一直是诸葛亮的第一选择。
祁山距离长安很遥远，这也决定诸葛亮的进攻难以达到奇袭及速战速决的效果。司马懿有充足的时间备战，他命费曜、戴陵先率领四千精兵，屯驻上邽（guī），其余部队全部前去增援祁山前线。当时张郃提出应该拨出一部分兵力驻守雍县及郿县——这两座城是长安的门户。司马懿反对道：“倘若前方部队能够单独抵挡敌人，是可以留守一部分兵力的；倘若前方部队没有这样的实力，就不能分散兵力。”
魏国虽然比蜀、吴强大，然而必须同时分兵防御，这大大限制了前方部队的实力。司马懿的军事原则是集中兵力，他以一个历史战例阐述了集中兵力的重要性：在楚汉战争中，英布倒向刘邦是决定双方胜负的关键点。当时西楚没能集中力量剿灭英布，而是把兵力一分为三，一军出击，两军策应，未能形成强大的打击力，终遭失败。由此可见，司马懿用兵相当老成持重，不打无把握之战。
祁山是魏国防御的三大重点之一，其余两处是南线的襄阳与东线的合肥。这时祁山的守军还没被消灭，司马懿的援军也尚未赶到。诸葛亮留下一部分兵力继续围攻祁山的据点，自己率主力奔袭上邽，希望拦截司马懿并与之一决雌雄。驻守上邽的费曜、戴陵前来迎战，他们只有四千人，终究不是蜀军的对手，很快被杀败。此时正好是农作物成熟的时节，诸葛亮顺手牵羊，把上邽的粮食全都割走了。
司马懿的大部队抵达上邽以东，与诸葛亮相对峙。蜀军刚刚取得一场胜利，士气正旺，诚不可与之争锋。司马懿采取乌龟战术，只守不攻，牢牢控制险要关口。这种战术，看似笨拙，实则有大智慧。你想想，诸葛亮千里奔袭，越深入魏国，补给线就拉得越长，每拖上一天，全军就得消耗掉大量的粮食。
这是两个智者的交锋，是高水平的对决。
诸葛亮的长处在于天才的组织能力，一个弱国一而再、再而三地发动对强国的进攻，这是很少见的，况且要翻越崇山峻岭，后勤转输困难重重，他能有条不紊地完成这些看似不可能的任务，实有过人之处。或许是诸葛亮正气比较多，用兵也偏正，所以鲜少出奇制胜。蜀军在攻坚战方面乏善可陈，只要敌人一收缩，就会束手无策。
在司马懿的保守战法下，诸葛亮找不到突破口，只得撤兵。司马懿采取“敌退我进”之战术，尾随诸葛亮，保持距离，并不攻击，这样一路追至卤城。
司马懿的作风引起了魏国将领们的不快，无论是朝廷派来的将领还是关中的将领，显然都对这位新的统帅有一种不信任感。
车骑将军张郃也有所不满，他比较含蓄地建议：“我们可以派出一支奇兵，抄截诸葛亮的后路，不应当只尾随而不敢进攻，这样只会令人失望。诸葛亮孤军深入，粮食又少，眼看就要逃掉了。”
在张郃看来，战机已经出现，再不打，敌人就要从眼皮底下溜走了。然而司马懿拒绝了张郃的建议，因为他十分了解诸葛亮。诸葛亮非常谨慎，做什么事都会留有余地，能考虑到方方面面的问题，无懈可击。司马懿下令只尾随，不出击，紧咬不放，是在等待机会。他就像一匹狼，追踪猎物时有着无比的耐心，只有在一击致命的机会出现时，才会果断出手。
魏军又一次咬住蜀军，两支部队的距离总是很近。司马懿下令上山扎营，并不与诸葛亮接触。这下子可惹火了一批将官，贾栩、魏平等人忍无可忍，不断地要求率部出击，他们还以讥讽的语气对新司令官说：“您畏蜀如虎，怎能不令天下人笑话？”司马懿听了无言以对。在诸将的舆论绑架下，再不出兵，这位新任总司令恐怕要滚蛋了。
无奈之下，司马懿只得作出让步，派张郃率一支奇兵进攻祁山之南的无当军团。无当军团是蜀军中的精锐部队，又称为飞军或无当飞军。这是诸葛亮南征后组建的一支精锐兵团，史载：“移南中劲卒，青羌万余家于蜀，为五部，所当无前，号为飞军。”青羌是羌人的一个分支，主要分布于西南，前文说过，羌是一个骁勇善战的民族，汉末盛极一时的董卓兵团和韩遂、马腾兵团中，都有大量的羌人骑兵。“无当”名称的由来，就是“所当无前”，也就是无敌的意思。
无当军的司令是王平，他是个大老粗，据说认得的字不超过十个，除了自己的名字以及官印上的几个字外，其他字他恐怕都不认得。文人出身的诸葛亮怎么会把最精锐的无当军交给一个目不识丁的大老粗呢？这与王平在第一次北伐中的出色表现有关。马谡失街亭后，蜀军兵败如山倒，只有裨将军王平没有慌乱，且战且退，井然有序。这给诸葛亮留下了深刻的印象，后来诸葛亮便提拔他当无当军团的司令。
其实在第一次北伐时，张郃与王平就有过一次交锋。那时张郃是魏军的前线总指挥，而王平不过是统兵一千人的裨将军罢了，王平的沉着表现令张郃大感意外，怀疑他设有疑兵，没敢进逼。这次两人又一次在战场相遇，此时祁山守军仍在蜀国的包围之中，王平的无当军团从南面进攻祁山，而张郃的目的是击退王平，解祁山之围。论地位，王平已是蜀国无当军团的司令，而张郃则是魏国的车骑将军，地位仍远在王平之上，不过这回张郃仍然没能讨到便宜。
别看王平不认得字，他对打仗是很在行的——当初在街亭时，他就批评过主帅马谡在兵力部署上的种种错误，后来马谡也因为这些错误而败亡。王平没有轻举妄动，只采取坚守不动的策略，他知道张郃乃是资深名将，不可小视，只能以不变应万变。这一招果然不错，张郃虽求战心切，无奈王平不理不睬，双方相持，无法决出胜负。
战争是牵一发而动全身的。张郃部队既动，司马懿也不能置身事外，他只得放弃尾随策略，转而与诸葛亮正面对峙。如此一来，正中诸葛亮的下怀。要知道大巧若拙，其实诸葛亮最担心的，正是司马懿看似蠢笨的战术。蜀军远道而来，利速战而不利持久战，倘若司马懿始终不出兵，诸葛亮很难有机会取胜。现在司马懿在诸将的压力下，被迫改变战术，以攻代守，诸葛亮大喜，派魏延、高翔、吴班等将领出战。
蜀军将士千里出关，还没痛痛快快地干上一仗，个个摩拳擦掌、跃跃欲试。反观魏军，将领们上下不合，矛盾重重，严重影响士气。这一仗，魏军大败，死亡三千多人。司马懿见势不妙，赶紧鸣金收兵，再次祭出乌龟战术。
两军相持了近一个月，诸葛亮找不到机会重创魏军，而粮草也差不多吃完了。没有粮草，军队就无法战斗，无奈之下，诸葛亮只好宣布撤军。
要知道，军队撤退时很容易出现疏忽，在司马懿看来，这是击破蜀军的最佳时机，他命令张郃率部追击。不过，要比谨慎，诸葛亮一点不在司马懿之下，怎么可能在撤退时露出破绽呢？如果你觉得有破绽，不要得意，那是故意露给你看的。这次，张郃要倒霉了。
当张郃追击到木门时，两边忽然冒出许多伏兵，箭矢齐发。原来，木门的地形适合打伏击，蜀军兵团早就在高处隐蔽起来，只等张郃上钩呢。蜀国的弓弩名扬天下，连弩更是强大、高效，代表着当时远程武器制造的最高水平。几阵箭雨过后，魏军死伤无数，张郃也未能幸免，他右膝中箭，这处箭伤竟成了致命伤。张郃是老将了，他征战沙场数十载，早年还参加过镇压黄巾起义的战争。少年时挨上几箭没事，如今右膝上中了一箭就不行了。他也成为诸葛亮在北伐中击毙的最高级别的将领。
据陈寿《三国志》所记：“郃识变量，善处营陈，料战势地形，无不如计，自诸葛亮皆惮之。”在魏国将领中，张郃是诸葛亮最忌惮的人之一。第一次北伐，击破街亭便是张郃的杰作；即便是蜀军中最精锐的无当军团，遇到张郃也不敢硬碰硬，这些都证明他确是蜀军的克星。不过，张郃这位名将的生命，最终凋零在木门。
对诸葛亮来说，击毙张郃确实是一次漂亮的胜利。
然而，就第四次北伐而言，他又一次失败了。
每一次北伐的失败，都意味着大量的人力、物力被浪费了，意味着蜀国向贫困的深渊又滑落了一步。战争花销巨大，却远远望不到尽头。诸葛亮痛定思痛，一个想法也逐渐在他脑海中清晰起来：要打败魏国，光靠蜀国的力量是不够的，一定要联合吴国共同起兵，在东、西两条战线上齐头并进。
梦想，似乎并非遥不可及。