战国时的《韩非子》中提到用磁石制成的司南。司南就是指南的意思，东汉思想家王充在其所著《论衡》中也有关于司南的记载。司南由一把“勺子”和一个“地盘”两部分组成。司南勺由整块磁石制成。它的磁南极那一头琢成长柄，圆圆的底部是它的重心，琢得非常光滑。地盘是个铜质的方盘，中央有个光滑的圆槽，四周刻着格线和表示24个方位的文字。由于司南的底部和地盘的圆槽都很光滑，司南放进了地盘就能灵活地转动，在它静止下来的时候，磁石的指极性使长柄总是指向南方。这种仪器就是指南针的前身，由于当初使用司南必须配上地盘，所以后来指南针也叫罗盘针。
宋人沈括在其所著《梦溪笔谈》中记有他所作使用指南针的四种试验。第一种叫“水浮法”，把几小段灯草横穿在带磁的钢针上，使磁针可以浮在水面，和指南鱼起同样作用。不过一受震动，磁针在水面动荡不定，指南就不一定准确了。第二种叫“指甲旋定法”，第三种叫“碗唇旋定法”，就是把磁针放在手指甲上或放在碗边上，手指甲和碗边都比较光滑，使磁针在上面可以自由灵活地转动，但是磁针很容易滑落，应用起来不太方便。第四种叫“缕旋法”(即“悬挂法”)即用蜡把单线的一端缀在针腰，挂在无风处，单线是用新茧中取出的独缕，它的弹性和韧性都比较好，不会发生扭转的毛病。用芥子大的蜡把单线和磁针黏缀起来，不采用扭结的方法，这是为了防免扭转毛病的出现。沈括认为“缕旋法”最完善。
司南和地盘模型的正面和侧面在制作中，天然磁石因打击受热容易失磁，磁性较弱，司南不能广泛流传。到宋朝时，有人发现了人造磁铁。钢铁在磁石上磨过，就带有磁性，这种磁性比较稳固不容易丢失。后来在长期实践中出现了指南鱼。约于公元1044年官修、曾公亮主编的《武经总要》中记载了用人造磁铁制成的指南鱼。制作方法是：“用薄铁叶剪裁，长二寸宽五分，首尾锐如鱼形，置炭火中烧之，候通赤，以铁钤钤鱼首出火，以尾正对子位，蘸水盆中，没尾数分则止，以密器收之。”这是一种利用强大地磁场的作用使铁片磁化的方法。在使用时置水碗于无风处平放，鱼在水面泛浮，鱼头是磁北极，鱼尾是磁南极，鱼在水中可自由转动，鱼首常指南。行军时，战士们携带指南鱼，阴天也可避免迷失方向，只是磁性仍较低，实用价值也不太大。
《梦溪笔谈》还记有对磁石性质的重要发现：磁石指南并不指正南。沈括测算是偏东一些，这是因为地球磁场的两极与地球经线的两极并不重合，磁力线与经线形成一定夹角，叫“地磁偏角”。后人精确指出偏角约在5°之内。而且全国各地不同，沈括对“地磁偏角”的发现是中国人对世界的重大贡献。在欧洲，直到1492年哥伦布远渡大西洋时才发现“地磁偏角”，比我国晚400多年。
地磁偏角示意图
沈括所作使用指南针的四种试验中国使用指南针导航不久，就被阿拉伯海船采取，并经阿拉伯人把这一伟大发明传到欧洲。恩格斯在《自然辩证法》中指出，“磁针从阿拉伯人传至欧洲人手中在1180年左右”。1180年是我国南宋孝宗淳熙七年。中国人首先将指南针应用于航海比欧洲人至少早80年。
罗盘针应用于航海，说明我国导航技术在宋代居于世界领先地位。南宋时，广州、泉州、杭州都是大商埠，当时和我国通商的有50多国，阿拉伯人、波斯人、罗马人纷纷由海道到我国通商。那时，通商的税收占国库总税收的1/20，如果没有指南针的发明是不可能有这样繁盛的海上通商贸易的。指南针的发明与西传促进了当时我国和印度洋、太平洋西部沿岸国家经济文化的交流，促进了各国航海事业的发展并为1492年哥伦布“发现新大陆”创造了前提条件。指南针的发明和应用于航海对全世界做出了重大贡献。
早在战国时我们祖先就了解并利用磁石的指极性制成最早的指南针——司南。比利用齿轮的指南车便利得多。我国古书中把“磁石”写成“慈石”，说明2000年前我们祖先已发现了磁石吸铁的特性，认为磁和铁的关系好像慈母和她的儿女一样亲密。
磁石有磁性，每一块磁石的磁性总是聚在两头的，中央部分差不多没有磁性，有磁性的两极就叫作磁极。如果把一根棒状的磁石用绳子系在中间使它悬空，拨动以后，等它静止下来，一定是一头指向南方，另一头指向北方。这是什么原因呢？原来整个地球就是一块大磁石，也有两个磁极，磁北极在地球的南极附近，磁南极在地球的北极附近。每块磁石也有南北两个磁极。不相同的磁极互相吸引，相同的磁极互相排斥。由于这个“异性相吸，同性相斥”的道理，所以那悬空的磁石就一头向南一头向北了。假如再用一根磁棒放到那悬空的磁棒旁边来试验，就可以看到有一头互相吸引，另一头互相排斥的现象。所以那悬空的磁石的磁南极就会和地球的磁北极相吸引而指向南方，它的磁北极就会和地球的磁南极相吸引而指向北方。磁石的这种性质就叫作指极性。我们的祖先根据磁石的这个特性，创造出了各种指示方向的工具。
指南针发明后很快就应用于航海。世界上最早记载指南针应用于航海导航的文献是北宋宣和年间(公元1119—1125年)朱或〔yu玉〕所著《萍洲可谈》(成书略晚于《梦溪笔谈》)，朱彧之父朱服于1094—1102年任广州高级官员，他追随其父在广州住过很长时间。该书记录了他在广州时的见闻。当时的广州是我国和海外通商的大港口，有管理海船的市舶司，有供海外商人居留的蕃坊，航海事业相当发达。《萍洲可谈》记载着广州蕃坊、市舶等许多情况，记载了中国海船上航海很有经验的水手。他们善于辨别海上方向：“舟师识地理，夜则观星，昼则观日，阴晦则观指南针。”“识地理”，是表明当时舟师已能掌握在海上确定海船位置的方法。说明我国人民在航海中已经知道使用指南针了。这是全世界航海史上使用指南针的最早记载，我国人民首创的这种仪器导航方法，是航海技术的重大革新。指南针应用于航海并不排斥天文导航，二者可配合使用，这更能促进航海天文知识的进步。徐兢在《宣和奉使高丽图经》(比《萍洲可谈》晚20多年)中说：“是夜，洋中不可住，唯视星斗前迈，若晦冥则用指南浮针，以揆〔kui葵，尺度〕南北。”说明徐兢出使高丽航海也使用了指南针，与朱或所记相同。这是采用水浮法的指南水针，船头船尾各放一具，天阴天雨时就靠着这种指南水针辨别方向。
中国海船开始使用罗盘定向导航约在南宋理宗宝庆元年(公元1225年)，这一年赵汝适写了《诸蕃志》，这是记载海外各国地理情况的著作。书中谈到他从泉州去海南岛乘的是海船：“舟舶往来，惟以指南针为则。昼夜守视惟谨，毫厘之差，生死系矣。”可知那时指南针在航海中指示方向的作用已经更加重要。比起11世纪时只在阴雨天才用指南针，仅仅作为指示方向的辅助仪器的情况是更进一步了。《诸蕃志》中所说的已不是指南针而是罗盘了。若无罗盘上的指向分度便不可能做到“守视惟谨”，“毫厘之差”。南宋吴自牧著《梦粱录》载：“风雨冥晦时，惟凭针盘而行，乃火长(船长)掌之，毫厘不敢差误，盖一舟人命所系也。”也可见罗盘针对航海的重要。
从指南鱼再加以改进，把带磁的薄片改成带磁的钢针，就创造了比指南鱼更进一步的新的指南仪器。把一支缝纫用的小钢针，在天然磁石上磨过，使它带有磁性，人造磁体的指南针就这样产生了。
