司马遹的母亲谢玖原是晋武帝后宫的才人,太子司马衷将结婚之前,其父晋武帝司马炎派才人谢玖前往东宫,以自己身体对太子进行性教育,让太子体验熟悉男女房帏之事。谢玖不久就有了身孕,她十分害怕太子妃贾南风对自己的孩子下毒手,就向晋武帝求还西宫,生下司马遹。直到司马遹四五岁了,晋武帝才告诉太子司马衷,司马遹是他的儿子。

司马衷这才知道那位教自己性知识,并生下司马遹的宫女叫谢玖。谢玖出身于屠夫家庭,她的父亲谢氏以宰羊为业。谢玖虽然出身贫贱,但却貌美贤惠,仪容端庄,因此受选入宫,封为才人。尽管司马衷痴呆,但司马遹却是十分聪明,司马炎对他非常疼爱。据说司马遹五岁时,有一天夜晚,宫中失火,浓烟腾腾,火光冲天。晋武帝站在火光下看着这冲天的大火。这时,司马遹拉着晋武帝的衣服走到暗处。晋武帝非常奇怪,问他为什么?司马遹郑重其事地说,夜晚失火,太混乱了,不能不防意外,你是皇上,不宜在火光之下,暴露面目。武帝听了,十分的高兴,因为他觉得这个聪明的皇孙可以振兴司马家业!

不久,晋武帝封司马遹为广陵王,食邑五万户,并选硕学大儒刘宴为师,以孟珩为友,以杨准、冯荪负责教导文学。司马炎还为他精心挑选了几位德高望重的大臣出任太子师傅:以何劭为太师,王戎为太傅,杨济为太保,裴楷为少师,张华为少傅,和峤为少保。可是,太子司马遹长大后却不好学,每天只与左右嬉戏胡闹,也不知道尊敬师傅,喜爱屠宰牛羊,并贪色好色。性刚且奢侈残暴,于宫中摆摊切肉卖酒,并在西园销售杂货,以收其利。又好算卦巫术,忌讳颇多。公元290年,司马炎驾崩,太子司马衷在灵前即皇帝位,是为晋惠帝,并册封太子妃贾南风为皇后。司马衷即位后,司马遹被立为太子。

皇太后杨芷的父亲杨珧任职太尉、太傅、大都督,统领军政,总理朝廷政务。实际上,军政和宫中大权掌握在太后杨芷父女手里。皇后贾南风可不是一盏省油的灯,她暗下决心要夺回大权。谢玖被册封为淑妃。但是贾南风却将谢玖安置在别处,不准太子与亲生母亲谢玖见面。九年后,皇后贾南风认为司马遹不是自己亲生的,且性情暴虐,害怕他即位后自己的地位不保,便与贾谧等设计谋害,诬陷司马遹谋反,囚于金墉城,后徙许昌宫,逼迫他写下叛逆文字,构陷他锒铛入罪,派黄门孙虑将其杀害。谢玖被逮捕后也被拷打而死。