汉武帝是中国历史上屈指可数的雄主之一。他“罢黜百家，独尊儒术”，使儒家思想正式踏上中国政治舞台，之后统治中国的思想长达2000余年。完成了思想统治的汉武帝，拉开了反击匈奴的序幕，开疆拓土，宣扬国威，从而把西汉王朝推向了极盛时期，开创了中国历史上一个光辉时代。这个时代可以说有4个空前：政治上空前统一，经济上空前繁荣，国力上空前强盛，文化上空前发展。汉武帝的文治武功，无论在当时还是对后世，都具有独特而深远的历史意义。
创下丰功伟绩后的汉武帝，也跟秦始皇一样犯了自高自大的毛病。他晚年变得骄奢淫逸，比秦始皇有过之而无不及。他到处修建苑囿、宫殿，装饰极其豪华，还染上了和秦始皇一样喜欢巡游的毛病。由于过度使用民力，加上祀神求仙，挥霍无度，以致赋役繁重，民不堪命，造成“海内虚耗，户口减半”的凋零局面。武帝晚年，各种社会矛盾积累并尖锐起来，农民大量破产流亡，阶级矛盾激化，许多地区都爆发了农民起义。
征和二年（公元前91年），统治集团内部矛盾激化，权奸江充治巫盅狱，激发了太子刘据发动宫廷政变，长安城中两派政府军大战，死者数万。最后刘据兵败自杀，卫皇后也自杀了。后来，丞相刘屈蓬和将军李广利也因巫盅之祸受到牵连，刘屈蓬被杀，李广利投降匈奴，所统帅的7万大军全军覆没。此时，一生多次大胜匈奴的汉武帝才醒悟过来，开始反思自己一生的所作所为。征和四年（公元前89年）六月，他下“罪己诏”，检讨自己的过错，这标志着汉武帝一生政策的一大转折。自此以后他采取了与民休息、思富养民的政策。经过努力，社会又趋于安定，为昭宣中兴奠定了基础，使西汉避免了重蹈秦亡的覆辙。
后元元年（公元前88年），汉武帝最后一次郊祀于泰畤，然后准备立储。在武帝诸子中，他最喜爱的是小儿子刘弗陵。刘弗陵的生母钩弋夫人年轻貌美，在汉武帝晚年宠冠后宫，“爱人者，兼其屋上之乌”，爱其人而立其子乃十分正常之事。另外，“孕十四月而生”也使迷信的汉武帝相信刘弗陵必有神异之处。然而刘弗陵还只有7岁，不过是一个乳臭未干的孩子。在政坛上几乎滚了一辈子的汉武帝知道其中的利害关系，所以他没有急于公开立储，而是决定在自己咽下最后一口气前，为儿子挑选托孤大臣，并清除掉各种隐患。
汉武帝认为群臣中唯有霍光可堪托孤重任，就命画匠画了幅周公负成王朝诸侯图，赐给霍光，暗示他日后要像周公辅佐成王那样辅佐汉室少主。赐图霍光后数日，汉武帝在甘泉宫突然雷霆大怒，大声呵斥自己最心爱的钩弋夫人。钩弋夫人急忙脱去簪珥，叩头谢罪。汉武帝狠着心肠命侍从将她押送掖庭狱。钩弋夫人边走边回头求饶。武帝无情地呵斥道：“快走！你活不了了！”钩弋夫人被押走后，糊里糊涂地被处死。杀了钩弋夫人后，武帝问左右，外面对他杀钩弋夫人有什么看法。左右回答说：“外臣不明白，既立其子，为何要杀其母？”武帝叹息一声，郑重其事地说：“这个道理，不是一般愚鲁的人所能了解的，从前国家之所以乱亡，多是因为主少母壮，盛年的主母独居难耐，往往淫逸乱政，结果弄得国家危亡。你们没听说过吕后吗？所以朕不得不忍痛先除掉她。”司马迁记述了这件事，评述说：“怎么能说武帝不是贤君呢？深谋远虑为后世打算，这不是一般浅陋的儒生所能做到的，因此谥为武，不能说名不副实。”
后元二年（公元前87年）春，年迈的汉武帝病重。在这段悲哀的最后时光里，他仍惦念着刘弗陵的政权安危。有望气者向他报告：长安狱中有天子之气。武帝急令使者疏录中都官诏狱中的罪犯，毋分罪之轻重，统统杀光。太子刘据的孙子，也即史称皇曾孙的刘病已（即后来的汉宣帝），自襁褓时即入郡邸狱，多亏了治狱使邴吉的看顾，至今已长到5岁了。此番遇险，邴吉紧闭狱门，拒纳使者，并大声喝道：“皇曾孙在此，他人无辜受戮犹为不可，何况天子的嫡亲曾孙！”使者还报武帝，武帝乃悟此举之谬戾，感叹道：“这是天意啊！”遂大赦天下。这是武帝最后一次颁布大赦。
二月，汉武帝行幸盩厔五柞宫，病势垂危。霍光涕泪交流地问武帝：“陛下如有不讳，由何人为君？”武帝说：“你还没明白朕赐你画的用意吗？立少子为君，你行周公吐哺之事！”霍光顿首推让道：“臣不如金日磾！”金日磾说：“臣是外族人，德才不如霍光，再说如果由我来辅政，会使匈奴看轻汉朝。”武帝说：“你二人素性忠直，朕是知道的，你们会同受遗命的。”
二月十二日，汉武帝颁诏天下，立刘弗陵为太子，并拜霍光为大司马、大将军，金日磾为车骑将军，太仆上官桀为左将军，搜粟都尉桑弘羊为御史大夫，与丞相田千秋同受遗诏辅佐少主。汉武帝在遗诏中将金日磾、上官桀和霍光3人都封了侯。二月十四日，汉武帝在五柞宫咽下了最后一口气。死后葬于陕西茂陵。霍去病、卫青、霍光死后也葬在他的周围，继续效忠于他。