（一）遨游南北
大约20岁的时候，司马迁开始外出游历，考察民情，询问典故，他足迹遍布长江中下游和山东、河南一带。如史书记载：“南游江、淮，上会稽，探禹穴，窥九疑，浮于沅、湘，北涉汶、泗，讲业齐、鲁之都，观孔子之遗风，乡射邹、峄，厄困鄱、薛、彭城，过梁楚以归。”这其中的每一个地方都有着吸引人的故事。司马迁从京师长安出发，向南进发，出武关（今陕西商县东），经南阳（今河南南阳），到了南郡（今湖北江陵），渡江辗转汨罗江畔，凭吊爱国诗人屈原。
大诗人屈原的故事可谓家喻户晓、妇孺皆知。屈原是中国最伟大的浪漫主义诗人之一，也是我国已知最早的著名诗人和伟大的政治家，他生于楚国贵族家庭，早年受到楚怀王的信任，任左徒、三闾大夫，帮助楚怀王商议国事，治理国家。在屈原的努力下，楚国国力开始增强，但由于自身性格耿直加上他人的谗言与排挤，屈原逐渐被楚怀王疏远。公元前305年，屈原因反对楚怀王与秦国订立联盟，被楚怀王逐出郢都，流落到汉北。流放期间，屈原感到心中郁闷，开始文学创作，在其作品中洋溢着对楚地楚风的眷恋和为民报国的热情。公元前278年，秦国大将白起挥兵南下，攻破了郢都，屈原在绝望和悲愤之下怀抱大石投汨罗江而死。这位品格卓越、才华盖世的伟大诗人临死前留下了“众人皆醉我独醒，举世皆浊我独清”的豪迈之言。屈原作品文字华丽，想象奇特，比喻新奇，内涵深刻，成为中国文学的起源之一。至今人们还深深怀念这位伟大的诗人。
屈原一生的事迹也深深震撼和撞击着司马迁的心灵，使他不由自主地想到了当下社会。文帝时有位大才子名叫贾谊，由于他才华横溢、多方崭露头角而被同僚排挤，后被文帝贬为长沙王太傅。其著名的《吊屈原赋》正是借此来释放心中的悲哀的，也暗示了他的遭遇与屈原有相似之处。
之后司马迁游历到湘江上游的零陵郡（汉武帝元鼎六年始置）内，这里有九嶷山。九嶷山山势绵延，横跨数郡（郡是秦汉时期的行政单位，约相当于今天的省），共有九座著名的山岭，因山岭不同，形势相似，游人来此，极容易疑惑迷路，所以称为“九疑”。这里相传是虞舜埋葬的地方，司马迁来到这里寻访虞舜的遗迹，寄托他的哀思。在会稽山，司马迁又祭拜了大禹。相传，大禹治水时，三过家门而不入，最后死在会稽这个地方。另外，会稽一带还是吴、越故地，吴王阖闾和越王勾践的故事仍广为流传。这大概也是“窥九疑，浮于沅、湘”的缘由，司马迁徜徉于历史与现实的游弋之中，深深感慨和体会了历史从过去走来和将向未来走去的道路。然后司马迁又来到了齐、鲁之都——孔子的故乡，儒家文化的发源地，这使司马迁心潮澎湃、激动异常。受到当时时代风气的影响，后来他在《孔子传》中写道：“《诗》有之：‘高山仰止，景行行止。’虽不能至，然心乡往之。余读孔氏书，想见其为人。适鲁，观仲尼庙堂、车服、礼器，诸生以时习礼其家。余低回留之，不能去云。更天下君王至于贤人众矣，当时则荣，没则已焉。孔子布衣，传十余世，学者宗之。自天子王侯，中国言六艺者折中于夫子，可谓至圣矣！”由此可见，司马迁对孔子是非常尊崇的，孔子也是中古文化中公认的圣人。离开鲁国文化圣地后，司马迁又来到了齐国国都临淄，学习了饮酒、射箭的礼节，还游历了孟尝君的封地——邹县以南的薛城。孟尝君是战国时期齐国公子，以养士著称。据说，他在薛邑，招揽宾客以及犯罪逃亡的人，很多人归附了他。孟尝君宁肯舍弃家业也要给他们丰厚的待遇，因此天下的贤士无不倾心向往。他的食客有几千人，待遇不分贵贱。孟尝君每当接待宾客，与宾客谈话时，总是在屏风后安排侍史，让他记录自己与宾客的谈话内容，记载所问宾客亲戚的住处。宾客刚刚离开，孟尝君就派使者到宾客亲戚家里抚慰问候，献上礼物。有一次，孟尝君招待宾客吃晚饭，有个人遮住了灯烛，那个宾客很恼火，认为饭食的质量肯定不相等，放下碗筷就要辞别。孟尝君马上站起来，亲自端着自己的饭食与他的相比，那个宾客惭愧得无地自容，就以刎颈自杀表示谢罪。因此贤士们有很多人都情愿归附孟尝君。孟尝君对来到门下的宾客都热情接纳，不挑拣，无亲疏，一律给予优厚的待遇，所以宾客人人都认为孟尝君与自己亲近。司马迁离开薛城后，来到了彭城（今江苏徐州市）。这是楚霸王项羽的都城，是楚汉战争的战场。司马迁对项羽的英雄气概十分敬仰，对他的遭遇又很感叹。从彭城向西北走，到了刘邦的故乡——沛县。高祖刘邦从起兵到立汉，期间的许多故事都成为历史典故。楚汉战争时，项羽曾以三万精兵击败了刘邦五十万大军，而最终汉高祖却战胜项羽，建立汉朝。司马迁来到这里考察，收获也很大。他说，“吾适丰沛，问其遗老。观故萧、曹、樊哙、滕公之家，及其素，异哉所闻！”可见，他对刘邦时期的人物也非常感兴趣，这些人都出身于社会下层，在社会变动中辅助刘邦，最终成为一代功臣将相。
司马迁游历的最后阶段，迁“过梁楚以归”。大梁即今天的河南开封市，战国时期是魏国都城。魏国也是当时的强国，最后被秦吞并。说到魏国，这里还有著名的战国四大公子之一——信陵君。而信陵君窃符救赵的故事也是家喻户晓的。
司马迁离开大梁后，沿黄河西行，经洛阳、函谷关后回到长安。这次长途旅行，是一次壮举，也是司马迁学习和实践的过程。他游历了祖国的大好河山，接触了各地人民，考察了历史事迹，开阔了胸襟，其收获丰富而宝贵，为他以后的历史著述提供了基础和大量帮助。
（二）入仕郎中
司马迁在漫游之后，大约在公元前112—公元前116年间做了郎官。郎官相当于帝王侍从，一般都由比较年轻的人担任，其职责为护卫陪从、随时建议、备顾问差遣等，一直沿用到清朝。在汉代，郎官是很重要的职位，可以理解为皇帝的护卫，其中有议郎、中郎、侍郎、郎中等，没有规定数额，最多至上千人。一般说来，官员要想提升，就要先做郎官。汉代的郎官都是在贵族子弟中选拔的优秀人才，说是在皇帝身边做侍卫，实际上是学习做官、增加阅历，一般经过一段时间的历练，都会被任命正式的行政职位。像曹操、袁绍都是做郎官出身。郎官在宫廷内部、皇帝身边，平时是很风光的。而一旦由内廷外调，往往为“长吏”。所以郎官是富贵子弟追求仕进的目标。虽然司马迁也做郎中，但只是地位最低的小郎官，可是由一个普通朝廷官员的儿子成为皇帝身边的亲信，以及到后来成为太史令，却说明了仕途的坎坷艰辛，也证明司马迁的才能有了用武之地。但究竟是何原因使得司马迁成为郎官，史书中没有记载，我们也无从知晓，只能从相关记载中推知一二。元朔五年（公元前124年）丞相公孙弘建议为博士置弟子员，博士弟子受业一年，进行考试，能通一艺以上者，有资格充任郎中，从而为贫民子弟走上仕途提供了方便之门。司马迁的父亲司马谈为太史令，秩六百石，不是两千石高官，但总算是在朝廷做官，在皇帝身边工作。加上司马迁才干超绝，很得武帝赏识，所以，司马迁出仕郎中，可能是两方面因素兼而有之。
司马迁出任郎中时期，他认识了李陵，这是在精神、经历上影响甚至改变司马迁一生的一个人。李陵是李广的孙子。提起李广，人人皆知，其祖先是秦朝将军李信，曾率军战败燕太子丹。李广继承祖传弓法，射得一手好箭。汉文帝十四年（公元前166年），匈奴大举入侵边关，李广以良家子弟从军抗击匈奴。因善于射箭，杀死和俘虏了众多敌人，升为郎中，以骑士身份侍卫皇帝。多次跟随文帝射猎，格杀猛兽，文帝曾慨叹：“惜乎，子不遇时！如令子当高帝时，万户侯岂足道哉！”（《史记·李将军列传》） 汉景帝即位后，李广为陇西都尉，不久升为骑郎将。吴楚七国之乱时，李广任骁骑都尉跟随太尉周亚夫抗击吴楚叛军。因夺取叛军帅旗在昌邑城下立功显名。虽有功，但由于李广接受了梁王私自授给他的将军印，回朝后，没得到封赏。在抗击匈奴的战争中，李广做出了杰出的贡献。时人称其为“飞将军李广”。李广有子三人，长子李当户早死，有遗腹子李陵。关于李陵，在下文中将论述。
公元前113年，汉武帝开始巡行郡县，巡行期间，武帝曾多次祭祀五帝。司马迁父子自然都参与了这些活动，他们扈从武帝先后到过夏阳、汾阴、逾陇山、登崆峒、北出萧关（今甘肃固原县东南），和数万骑骑兵一起打猎于新秦中（在今内蒙古河套一带），然后回到甘泉。在甘泉（今陕西甘泉西南）进行祭祀并建立了泰畴，泰畴就是祭祀天神泰一的祠坛。当时的祭神典礼是由司马谈等人议定的。后来司马迁回忆说：“系尝西至空桐（崆峒）。”就是讲这一次侍从武帝西登崆峒山的事。
（三）奉命西征
奉命西征巴、蜀以南，是司马迁青年时代出仕郎中以后所做的第一件大事。此次奉使之游可与二十岁时的壮游相比肩，所以司马迁在《太史公自序》中紧接二十岁壮游之后赫然大书：“于是迁仕为郎中。奉使西征巴、蜀以南，南略邛、笮、昆明，还报命。”汉武帝时期，经过了汉初文景之世几十年的恢复和积累，国力大大加强。因此武帝时展开了积极征服四夷的外扩活动。向北讨伐匈奴、西北开拓西域、东北征服夫余、南征南粤、西南征伐夷等等。在对待西南夷的问题上，早在武帝建元六年（公元前135年），就令王恢派遣番阳县令唐蒙进入南越国宣传西汉王朝的政策。唐蒙曾上书汉武帝，请求先派兵征服西南夷的夜郎国，再利用夜郎国的兵士征服当时还没有彻底臣服西汉王朝的南越国。同时，西汉王朝还可以把夜郎国囊括进西汉王朝的版图。汉武帝答应了唐蒙的请求，拜唐蒙为郎中将，于是唐蒙从蜀地的筰关进入了夜郎国，也就是从现在四川的汉源至西昌的这条道路进入了夜郎国。同时带了许多商业物品，一路上使用这些丰富的汉地商业物品来贿赂那些夜郎国中的大小部落，同时又宣传西汉王朝的政策，这使得夜郎国国内的各部落和老百姓欢欣鼓舞。这样，汉军没有使用兵戈，就轻易征服了夜郎国，唐蒙顺势就在夜郎国境内设立了犍为郡。这个犍为郡后来号称三蜀之一，是西汉王朝的益州三大汉郡之一。汉武帝屯田西域，西域的葡萄、核桃、石榴、蚕豆等传入中国，西域的音乐也对中原的音乐产生了深远的影响。汉武帝时期，出使西南的还有一位有名人士，即司马相如。司马相如最为人知的是他作为文学家的一面，著名的《长门赋》就出自他的手笔。
汉赋是在汉代涌现出的一种有韵的散文，它的特点是散韵结合，专事铺叙。汉赋的内容可分为五类：一是渲染宫殿城市；二是描写帝王游猎；三是叙述旅行经历；四是抒发不遇之情；五是杂谈禽兽草木。而以前二者为汉赋之代表。赋是汉代最流行的文体，在两汉四百多年间，一般文人多致力于这种文体的写作，因而盛极一时，后世往往把它看成是汉代文学的代表。
《长门赋》的创作背景是这样的：汉武帝时，陈皇后（成语金屋藏娇的主人公）被贬至长门宫（冷宫），后来她命一个心腹内监，携黄金千斤，请大文士司马相如代作一篇赋，写自己深居长门的哀怨。司马相如于是挥毫落墨，洋洋洒洒作了《长门赋》。这篇赋完成以后，陈皇后命宫人日日传诵，希望武帝听到后回心转意。《长门赋》虽是千古佳文，却终究挽不回武帝的旧情。到了其祖母窦太后死后，陈氏寥落悲郁异常，不久也魂归黄泉。
司马相如不仅是大文士，还擅奏古琴，实在是难得的才子，汉武帝时他奉命两次出使西南夷，他所作的《难巴蜀父老书》是当时诠释西汉王朝扩张边疆边民的一篇宏文。在唐蒙、司马相如等出使西南夷后，西南地区逐步稳定下来。为了进一步巩固汉王朝对西南地区的统治，元鼎六年（公元前111年），汉武帝再次派出司马迁出使西南。司马迁当时由长安启程，大概南出汉中，经蜀郡到沈犁郡。这就是司马迁在《太史公自序》中所写“奉使西征巴、蜀以南， 南略邛、笮、昆明”。时年司马迁35岁，这次出使，司马迁收获了很多，了解和体会了西南地区的地理、物产、民情、风俗，这对他后来写《货殖列传》等有很大的帮助。到这时候为止，司马迁足迹已遍及祖国的大江南北。