251年秋，司马懿以七十三岁高龄病逝。其子司马师、司马昭相继执政。他们连续打败政敌，进一步巩固了司马氏家族的势力，为西晋代魏奠定了基础。
　　司马懿死后葬在洛阳城东的首阳山，司马炎称帝后，尊称司马懿陵墓所在地为高原陵。曹魏初年曾规定，子孙不准谒陵扫墓。因此，曹爽陪同曹芳谒陵属违制，而司马懿恰恰是利用曹爽谒陵的机会发动政变的。司马懿也怕自己的子孙谒陵时发生类似的意外事故，因此临终前严申不准谒陵之令，并规定陵墓不起坟，不植树，以后去世的眷属也不得合葬。司马懿的子孙严格遵守这条祖训，因而晋代皇帝的陵墓一直未被发现，以致成为千古之谜。