司马懿任尚书仆射：司马懿在黄初二年任尚书右仆射，曹魏右仆射典选举，虽然权势也不低，但是比起他原本担任督军、御史中丞有所降低，尤其是没了兵权。曹丕废除督军职务，把军权都掌握在自己手中，没有执行曹操托孤重用司马懿等人。这时期曹丕是打击削弱士族，重用豪强集团，增强中书系统，开始抑制士族控制的尚书系统。尚书令陈群、仆射司马懿不能像中书监刘放、中书令孙资掌握机密。黄初三年底，曹丕前往征江东，中书、尚书的四要员都随行，尚书杜畿也升任仆射成为留守，尚书系统势力提高。四年尚书令陈群和仆射司马懿联合推荐鲍勋担任御史中丞，曹丕不得已任用了，鲍勋是士族中反对曹丕亲自统兵的人，也是士族中清廉、正直的士大夫，曹丕不喜欢他，对士族和尚书系统势力的扩展不满。五年曹丕让仆射杜畿去管御船，照例这应该是少府、尚方令负责的，把杜畿调离尚书系统，削弱士族影响，杜畿因事故遇难后，曹丕虽然惋惜但也仅追封太仆，对士族暂时有所抑制。他再次出征时就让司马懿留守洛阳，仅带尚书令陈群去，在朝就让司马懿长驻许昌，他虽然对司马懿非常信任，对他的才能倚重，但也防范不想有陈群、司马懿同时举荐鲍勋那样让他不得不认可的情况，把两人分开了。曹丕的权谋固然高明，但他听从刘晔等豪强攻孙权的战争却接连失利，在七年又不听众臣劝阻杀了鲍勋，二十多天后自己也突然病危，这时他才体会到陈群、司马懿的态度是正确的，自己更应该依靠士族而不是豪强，因此他临终让曹氏两人与陈群、司马懿辅政，此时陈群和司马懿作为士族主要领袖，已经兼任军职，曹丕不得已要靠士族武装，代替战斗力减弱的豪强武装，与孙刘联盟对抗。曹睿继位时，陈群依然是尚书令，司马懿也依然是尚书仆射，诸葛瑾攻襄阳，曹睿首次让司马懿单独指挥打败诸葛瑾，随后也免除了他尚书仆射的职务，不再让他留守许昌，改驻防宛城。曹睿最初对士族也疏远没听曹丕话，把司马懿派出作战，若败了司马懿恐怕不仅不能再回朝，连抚军将军职务都会丢了，但仍失去尚书仆射被外派。陈群则被解除军职，改任司空，名义上录尚书事，而实际曹睿更增强了中书地位，刘放传也记载曹睿更宠信他，甚至能决定辛毗任尚书仆射。让士族与曹睿矛盾更深，尚书令陈矫甚至阻拦曹睿到尚书看文书。司马懿驻防宛城平定叛乱，阻止蜀吴入侵又挽救了曹魏，太和五年又被曹睿任命去关中执行立即与蜀军作战的诏令，逐渐成为曹魏军队中最核心的将领，多次挽救曹魏不利战局。曹睿长期重视豪强和中书，结果也和曹丕重豪强同样，不仅竭力笼络的割据豪强公孙渊谋叛，连提拔的刘放、孙资也与士族联合。曹睿也是在临终才像曹丕明白只能依靠士族，至少士族能重书礼，能更忠心，因此再次托孤司马懿。