司马迁出生于一个世代史官之家，在先秦时期，学在官府，史官世袭，司马迁的先祖司马氏世典周史，在周朝里即为史官。司马迁的父亲司马谈在汉武帝时，官居太史令之职。太史令的职责是掌管中央政府的天文星历、占卜祭祀，并且保管文书档案和图书典籍，要求知识渊博，随时以资顾问。司马谈曾经“学天官于唐都，受《易》于杨河，习道论于黄子”。所著有《论六家要旨》，全面总结和分析了先秦诸子百家各学派，是一位富有独立见解的史学家。
在父亲的教导下，司马迁自幼即以继承父业为学习动力，勤学苦读。加之他天资聪颖，10岁时就能诵读古文，对一些古史书籍有所接触。稍长，父亲即让儿子向当时的名师宿儒学习，攻读《古文尚书》、《左传》、《国语》、《国策》、《楚汉春秋》以及诸子百家、骚赋等汉代以前的古书，同时父亲还精心传授作太史令的必要知识与技能，如搜集民间遗文古书，保管和整理图书典籍，研习天文星历、占卜祭祀等等。所有这些，作为子承父职的家传家教也是当时必要的职官教育，司马氏父子无不用心。
公元前110年，汉武帝始建汉家之封，封禅泰山。作为太史令的司马谈被留滞周南，不得与之从行，故郁愤而卒。在弥留之际，司马氏父子会见于河洛之间。父亲拉着司马迁的手，泣不成声地说：“迁儿，我家先祖为周室的太史官。自从上世曾显功名于虞夏，典天官事。后世中衰，难道在我这里衰绝了吗？不！你将复为太史，承继我祖上事业了。今朝天子接千岁之继统，封禅泰山，而我不得从行，是命运如此，是命运如此啊！我死之后，你必定为太史。你为太史，千万不要忘我所欲论著之事。”父亲的话深深地触动着儿子的心，司马迁俯首流涕，字字记在心上。父亲为宏愿未展而即将谢世无比伤怀，断断续续地告诫儿子：“近四百年来，诸侯兼并，战乱不息，以致历史记载停止断绝了。今天下统一，明主贤君和忠死义之士，我作为太史官而来不及论载，天下的文史废弛未修，我深感恐惧的唯此过失，望迁儿念念不忘！”司马迁接受父亲临终教诲与嘱托，决心不辜负父亲的遗训。
由于司马迁自幼得家传家教，而且始终以父亲的临终嘱托与教诲为巨大动力，所以在他自身坎坷遭遇的逆境中，百折不挠地完成了巨著《史记》的撰述，不仅实现了父亲的遗愿，而且树立了千古效法的子从父教的楷模。
汉代史学家司马迁以著《史记》而留芳千古。在他治史成才的道路上，最值得世人玩味的是那家传家教故事。
后来，司马迁承袭父职任太史令，开始掌管皇家藏书。在皇家石室金匮之所，他如饥似渴地阅读各种书籍和文史资料。与此同时，他为编述史书，除广泛收集整理已有的国家藏书资料外，还利用充当皇帝侍卫之职的方便，游历祖国的名山大川，考察各地的历史古迹和风土人情，以获取第一手信史资料。据载，司马迁早在20岁时，便“南游江、淮，上会稽，探禹穴，窥九嶷，浮于沅、湘；北涉汶、泗，讲业齐、鲁之都，观孔子之遗风，乡射邹、峄；厄困鄱、薛、彭城，过梁、楚以归。”迁仕郎中后还游历考察了巴、蜀、邛〔qiong穷〕、笮〔ze则〕、昆明等西南各地。这些非凡的经历，成为他编著《史记》难得的条件。
然而，尽职尽责的司马谈自撰述《论六家要旨》始，就有编著一部巨史的夙愿，他企图通过对先周以来的古籍整理，将绵延不断的华夏民族发展历史进行总结，以承先启后，以资益于天下一统的明主贤君借鉴。司马迁朝夕侍奉于父亲身旁，父亲为编史的准备工作以及口授心传的治史家学教诲，无疑成为他日后治史、编撰《史记》的主要条件。
