曹操在临死之前曾经做过一个梦，叫“三马食槽”，曹操当时便觉得非常害怕，于是他便细加思考，发现“三马”其实就是一直隐藏在他身边的司马懿三父子。
因此，曹操便火速向儿子曹丕说明情况，并且称道。“司马懿非人臣也，必预汝家事。”让曹操没有想到的是，曹丕当时不以为然，而且还在曹操面前说司马懿只是他的幕僚，是他的老师，而且关系一直跟他不错。
曹操后来细加思考，司马懿的确如儿子曹丕所说，一直对曹家忠心耿耿。就算是想在他身上找到借口也非常困难，后来曹操也就只能放过司马懿。不过呢，在曹操临终之前，还是强调一定要防着司马懿！不要让他得到兵权，要么让他主政，总之，千万不能让他得到实权。
后来，曹丕称帝。而且，这个时候司马懿被曹丕先后任命为，尚书，督军、御史中丞。公元221年，又被曹丕免去督军的职务，可以从曹丕的这些细节可以看出，他其实一直还是对司马懿有所防范的。
公元225年，曹丕打算亲自带兵进攻孙权，于是留了司马懿在后方镇守城池。《晋书·宣帝纪》：六年，天子复大兴舟师征吴，复命帝居守，内镇百姓，外供军资。临行，诏曰：“吾深以后事为念，故以委卿。曹参虽有战功，而萧何为重。使吾无西顾之忧，不亦可乎！”天子自广陵还洛阳，诏帝曰：“吾东，抚军当总西事；吾西，抚军当总东事。”于是帝留镇许昌。可以看出，曹丕还是记着当年父亲曹操的话，没有把权力真正给到司马懿。
公元226年五月，曹丕病重。在其临终时，让司马懿与中军大将军曹真、镇军大将军陈群、征东大将军曹休为辅政大臣。可以从这波操作之中看出，在曹丕心里还是挺看好司马懿的。毕竟，西蜀有诸葛亮在，曹魏也必须要有人跟他对弈。而此人正是司马懿，后来曹丕还说，在我任命的这三个辅佐大臣之中，你（指曹叡），千万不要怀疑他们。
其实曹丕当时的意思还是想让曹叡慎用司马懿的，不过一定要做到用人有方。至少，不会把大权完全放在他一个人身上。