从三十八岁到四十二岁的五年间,除了不时地扈从武帝出巡,司马迁潜心述史,到太初元年(前104),司马迁接到了一项新任务,即主持修订太初历,对于这个任务,司马迁的态度是非常积极的。

现代人对于历法的态度与古代人是完全不同的,现代人只把历法看成一种记年月日的规则,除此之外并没有太多别的意义。而古人却对历法极为重视,其一是因为古时还是农业社会,历法对春耕秋收有指导意义,历法的准确与否,与农业的收成有极大的关系;其次是统治者也把制定历法当成权力和地位的象征,从西周到春秋,只有天子才有制定历法的权力,到战国时,各国称王,自行制历,周天子的共主地位也就不复存在。可以说,改历就是改朝换代,司马迁在《史记·历书序》中也说:“每个新的朝代开始时都是非常谨慎的,要改定历法,更换服色,推求本天的元气所在,以顺承天意。”大汉朝自建立之初,就在要不要改历和易服色以及如何改易等事情上争论不休,众人的意见大多都集中在要改正朔和易服色上,只是究竟如何改易,却是公说公有理,婆说婆有理,无法有一个定论。一直到太初元年,皇帝既然已经在元封元年第一次到泰山去封禅了,这时也决心要把改历和易服色的事情一鼓作气地完成,而司马迁得以参与并主持如此重大的事情,自然要感到格外自豪了。

在这一年,司马迁还修正了《史记》的断限,并与壶遂讨论了作史的义例。《史记》的断限原本是由司马谈确定下来的,即上起陶唐,下讫获麟即元狩元年(前122),而司马迁则把《史记》的起始时间上推至黄帝,把下限下推至太初元年(前104)。壶遂曾与司马迁一起主持修订太初历,当时的官职应该是太中大夫(郎中令的属官,秩千石,掌议论),与司马迁或许还是好友。他问司马迁:“昔孔子何为而作《春秋》哉?”壶遂表面是问孔子作《春秋》的目的,而实际上是在问司马迁修史的目的何在。这时候的司马迁仍然是豪情满怀的,他借老师董仲舒的话回答壶遂说:“我曾听董先生说:‘周朝王道衰败废弛,孔子担任鲁国司寇,诸侯嫉害他,卿大夫阻挠他。孔子知道自己的意见不被采纳,政治主张无法实行,便褒贬评定二百四十二年间的是非,作为天下评判是非的标准,贬抑无道的天子,斥退为非的诸侯,声讨乱政的大夫,为使国家政事通达而已。'”“贬抑无道的天子,斥退为非的诸侯,声讨乱政的大夫”,司马迁的原文,是“贬天子,退诸侯,讨大夫”,“退诸侯,讨大夫”还罢了,天子之为天子,即是天命所归、皇权所在,司马迁作为一个史官,何德何能,而能“贬天子”?后来班固作《汉书·司马迁传》,即将这一句改为“贬诸侯,讨大夫”,删去了“贬天子”三字,因为班固深知天子是不可贬的。而司马迁却以为天子是可贬的,司马迁的这种想法,也为他后来的遭遇埋下了祸根。