祖冲之出生在官宦之家。他的祖父在刘宋朝廷任过职，当过掌管土木工程的“大匠卿”，他的父亲是一名管理建筑的官员。祖冲之小时候不喜欢读古书，他的父亲逼迫他读《论语》，可是两个月下来，他只能背出十句。他的父亲非常生气，狠狠地揍了他一顿，骂他没出息。可是，他的祖父并不这样认为。他的祖父觉得他对天文现象很感兴趣，将来或许能够在这方面有所建树，所以就每天教他读一些天文方面的书籍。有时，祖冲之会和祖父及父亲一起对天文知识进行研究，这使得祖冲之对天文学的兴趣越来越浓厚。
祖冲之长大之后，开始对刘徽的“割圆术”进行了研究。“割圆术”是指在一个圆里画一个正六边形，这个正六边形的边长正好与圆的半径相等，之后再画正十二边形，正二十正边形，正四十八边形……依此类推，圆的周长正好就是多边形各边边长相加在一起的长度。刘徽用这个方法算出圆周率为3.14。刘徽还得出这样一个结论：圆周率值的精确程度与圆周内所接的正多边形的数量成正比。
除了在天文学和数学领域所取得的成就之外，祖冲之对机械制造业也做出了非常突出的贡献，他发明了“计时器”、“水推磨”、“千里船”等机械，大大提高了生产效率。
祖冲之看到赵榧的革新后，不禁夸奖道：“这种大胆的尝试实在太好了！”说完之后，他拿出算筹，非常仔细地算了起来。经过计算，他发现十九年七闰的历法存在着弊端：十九年里有七个闰年，按照这种历法计算，那么二百年里就会比实际多出一天。他觉得这种历法不够精确，并下定决心要提高历法的精度。他想了很久，认为要提高历法的精度，只读前人留下来的历法书还远远不够，必须靠自己实际观测才行。
与在天文学领域取得的成就相比，祖冲之在数学领域所取得的成就更大，因为他精确地推算出了圆周率。
南北朝时期出了一个非常有名的科学家，他就是祖冲之。
不大一会儿，一辆马车向他驶来。他请求驾车的人把马车停下来，并说：“我想用绳子测量一下马车的车轮，您允许我这样做吗？”那个驾车的人点了点头。祖冲之很高兴，立即拿出绳子，量了一下车轮，然后又把绳子折成长度相同的三段，去量车轮的直径。他翻来覆去地量了好几遍，但总觉得车轮周长的三分之一要比车轮的直径长一些。祖冲之一连测量了好几辆马车，得出的结论都是这样。他不明白为什么会这样，便下定决心，一定要将这个问题弄个明白。
此后，祖冲之还算出了圆周率分数的近似值，约率是22/7，密率是355/113。这一结果比欧洲早了一千多年。因为他是世界上第一个提出这个密率值的人，所以有些外国科学家主张将它命名为“祖率”。
从此之后，祖冲之经常对日月星辰的运行轨迹进行观测，多次向那位官员请教天文学方面的知识。
所谓圆周率，是指一个圆的周长与它的直径相比的倍数，它是一个常数，不管一个圆有多大，也不管一个圆有多小，这个数值始终是固定不变的。在祖冲之以前，人们用“径一周三”来表示圆周率。祖冲之小的时候，他的老师对他讲：“一个圆的圆周长度是直径长度的三倍。”祖冲之的好奇心非常强烈，他一遍遍地思索着老师讲的那句话，觉得这句话好像并不正确。于是，他找出一根绳子，跑到村头路边等待着马车。
我国古代的劳动人民，通过长期的观察和实践，总结出了日月运行的基本规律，并据此制作成了历法。在祖冲之所处的那个时代，历法已经相当精确了，但是祖冲之认为还可以更精确。
一天，祖冲之与祖父去一位精通天文学的官员家里做客。那位官员听说祖冲之对天文学很感兴趣后，便问道：“研究天文学是一项非常艰苦的工作，而且又不能靠它升官发财，你研究它究竟为了什么呢？”祖冲之说：“我研究天文学从来也没有想过要升官发财。天地间充满了秘密，我只是想把这些秘密弄清楚而已。”那位官员听后笑着说：“你真是一个有志向的好孩子！”
一天，他在书房里翻阅《太初历》、《后汉四分历》、《春秋四分历》、《元嘉历》等历法书，将这些古人所著的历法进行仔细地对比。经过仔细地分析，他发现北凉赵榧的《元始历》中，第一次使用六百年二百二十一闰，而不是以前的十九年七闰。所谓十九年七闰，是指十九年里有七个闰年，每个闰年都是十三个月。这种历法是祖冲之生活的那个年代普遍适用的历法。
从此之后，他就在观测站上设置了一个高约八尺的圭表，观测日影的长度。他把每一天日影的变化记录在观测本上，时间长了，观测本已经记得满满当当。他觉得光测定日影的长度还远远不够，于是就设计了几个漏壶，用来记时，每一天不仅记录下日影的长短，还要将日出日落的准确时间记录下来。经过长年累月的记录和计算，他终于发现，由于日影在冬至前后并没有太明显的变化，而且漏壶表示的时间也不够精确，因此冬至时刻也就很难测量精确。这个问题一时间成为他前进道路上的最大障碍。可是，他并没有因此而气馁，而是对失败的经验教训进行总结，并想出另外一个办法来：不再观测冬至那一天日影的长度，而是对冬至前后二十多天的日影长度进行观测，之后取平均值，算出冬至那天的日期和时刻。这个方法取得了非常好的效果，将冬至时刻测定的精度大大提高了。冲祖之根据新的研究结果，制定了一部新的历法——《大明历》。这部历法规定一年为365.24281481天，这与现代天文学测定的结果，只有50秒的误差。
刘徽所取得的成就，为祖冲之进一步推算圆周率提供了理论依据。祖冲之按照刘徽的理论，开始进行演算。他与十三岁的儿子没日没夜地计算十几天，才从正六边形算到正九十六边形。他们算出来的正九十六边形的结果比刘徽的结果少了0.000002丈。
公元462年，祖冲之把自己的研究成果汇报给宋孝武帝，并请求孝武帝废除旧历，颁布新历。受到孝武帝宠幸的大臣戴法兴觉得古历沿袭已久，祖冲之擅自做出改变，是大逆不道的行为，因此极力反对实行新历。祖冲之拿出他的研究数据，将戴法兴驳斥得哑口无言。戴法兴争辩不过祖冲之，就仗着皇帝对他的宠爱，不讲道理地说：“古人制定了历法，后代的人便要遵循，怎么能够随意改动呢？”祖冲之非常从容地说：“你说古人的历法好，有什么事实依据吗？如果你有，尽管拿出来辩论。说一些没用的话来吓唬人，又有什么意思呢？”孝武帝看到戴法兴吃了亏，就想为他挽回颜面，找来一些懂历法的人与祖冲之进行辩论。但是，那些人很快就被祖冲之驳得无话可说了。尽管如此，孝武帝仍然没有立即颁布新历。直到祖冲之死后十多年，他制定的历法才得以实行。
祖冲之的儿子对祖冲之说：“我们算得非常仔细，不可能出错，很可能是刘徽错了。”祖冲之并不同意儿子的说法。他说：“要将刘徽的结果推翻，我们必须要有依据才行。”于是，他们父子俩又不厌其烦地重新计算了一遍。这次结果显示，刘徽的结果是正确的。虽然多花了十几天的工夫，但祖冲之明白了一个道理，在计算过程中难免不出现错误，为了得出正确的结论，以后每一步都要多算一遍才行。就这样，祖冲之废寝忘食地算下去，一直算到了一万两千二百八十八边形，两万四千五百六十七边形。他发现，这两者只有0.0000001的差距。祖冲之明白，按照理论来说，仍然可以继续算下去，但现实让他无法继续，虽然他并不想停下来。就这样，经过周而复始的运算，他算出了圆周率在3.1415926与3.1415927之间。在数学史上，这是第一次有人将圆周率精确到小数点后七位，这项纪录保持了整整一千年之久。
