1926年，金岳霖回国后发表了他的第一篇哲学论文：《唯物哲学与科学》。他在文中说：“世界上似乎有很多的哲学动物，我自己也是一个，就是把他们放在监牢里做苦工，他们脑子里仍然是满脑子的哲学问题。”
金岳霖初看休谟的《人性论》时，感觉到《人性论》“洋洋大观”、“很了不得”，后来通过研究，发现了其中有许多毛病：休谟只是在用流畅的文字讨论连他自己也无法解决的问题，他“出发点太窄，工具太不够用”，但“仍然能够提许多的重大问题，做一种深刻的讨论。”这一发现，使他对哲学研究的兴趣更加浓烈。
后来，金岳霖又到德、法、意等欧洲国家游学。这一时期，他几乎完全沉浸在西方哲学之中，从苏格拉底、柏拉图到亚里士多德，从洛克、休谟到康德，从布拉德雷到罗素、穆尔、维特根斯坦，他都进行了广泛而又深入地研究，并把他们的思想和理论融会贯通，变为自己丰富的思想营养和构建自己哲学、逻辑学体系的材料，为他以后写作《逻辑》、《论道》、《知识论》等著作打下了坚实的基础。
在英国剑桥大学时，金岳霖聆教于罗素和穆尔两位哲学大师，读到了两部对他产生过极大影响的哲学著作：罗素的《数学原理》和休谟的《人性论》。这两部著作使金岳霖对哲学有了一个全新的认识，强烈的震撼使他投身到了西方哲学之中。彻底放弃了商业簿计学和政治学。
1935年，金岳霖的《逻辑》一书出版。这在中国逻辑学界被认为是“中国有史以来的第一部纯粹逻辑”。当时的《国闻周报》高度评价了金岳霖和他的《逻辑》：“其思想之深刻，分析之细密，措辞之谨严，不这样一个富有思考力的哲但中国的哲学出版物中少有其匹，即求之西洋哲学的出版物中亦不多了。中国的实在论能有学家出来领导，我们可以预见其‘方兴未艾’，‘五世其昌’哩！”
清华很重视哲学问题和逻辑，所以讨论和辩论盛行，逻辑组是学术辩论最热烈的地方。组内教师都是金岳霖的学生或者学生的学生，遇到问题常各执己见，争得面红耳赤。金岳霖、沈有鼎、周礼全祖孙三代是其中的代表，不论是老师还是学生，只要你讲得不对，我便要反驳，今天驳不倒，下次准备再来。
金岳霖在美国留学时，学的是政治学，并获得政治学博士学位，后来他对逻辑学发生了兴趣。他回国时，正好清华大学原本教授逻辑学的赵元任准备去教音韵学，清华就聘请金岳霖代替赵继续讲授逻辑学，于是，金岳霖就边授课边学习。1931年，金岳霖再次到美国留学一年，师从哈佛大学的谢菲先生学习逻辑学。金岳霖告诉谢菲，他教过逻辑，可是没有学过，谢菲哈哈大笑。
金岳霖早年是学商业和政治学的，可能这些学问对他的智力不构成任何挑战，所以他对这些“玩意”一点兴趣都没有。有一次他和张奚若、秦丽莲在巴黎圣米歇大街散步，遇到几个人不知为了什么事吵了起来，这三个人居然也跟进去和他们争论。从此，金岳霖开始对逻辑产生兴趣。当阅读到新黑格尔主义的哲学家T. H. 格林著作时，他说他才头一次感到情感上的欣赏和认同，从此之后他对哲学的热情一发而不可收拾。
金岳霖的知识论原本抗战期间在昆明时就已经完稿，全稿六七十万字。当时日机经常空袭昆明，金岳霖为了不让稿子毁于日机的轰炸，就带着稿子跑警报。到了山边上，他就坐在稿子上。有一次轰炸的时间太长，轰炸结束时，天已经黑了，他站起来就走，稿子忘了拿。等他记起回去，稿子已经不见了。于是他只好重新再写。到1948年12月，金岳霖重新写就的《知识论》完稿。
金岳霖赴美国留学之前，曾就如何选择专业向其兄长征询。其兄建议他学簿计学。金岳霖到美国后开始按部就班地学习，后因无兴趣，便改学政治学。就这次更改，金岳霖专门致信兄长，说：“簿计学，是雕虫小技。我堂堂七尺男儿，何必学这雕虫技艺。昔日项羽不学剑，就是因为剑乃一人敌，不能当万夫。”
晚年的金岳霖认为三本书就能概括他的一生：“我要谈谈我的书，我只写了三本书。比较满意的是《论道》，花功夫最多的是《知识论》，写得最糟的是大学《逻辑》。”
在西南联大时，金岳霖同朱自清、陈岱孙、李继侗等教授住在昆明北门街71号唐（继尧）家花园戏台的大包厢里。几位同仁把最安静的地方留给金岳霖，供他写作。中国现代哲学系统中最完备、最富创造性的本体论专著《论道》就在这里诞生了。
金岳霖的《论道》将“间”和“时”区别开来，金岳霖说：《论道》的重点是时流，“这表示在那几句话：‘能之即出即入谓之几。’‘能之会出会入谓之数。’‘几与数谓之时。’这就使我回到无极而太极的宇宙洪流上去了”。
金岳霖的《知识论》写了两遍，费时十余年，从完稿到正式出版又用了35年之久。新中国成立后，张岱年碰见金岳霖，问金的《知识论》可曾写好。金答曰：已经写好了，我写了这本书，我可以死矣。1983年，就在金岳霖去世前一年，商务印书馆终于出版了《知识论》，金岳霖在序中说：“《知识论》是一本多灾多难的书……是我花精力最多，时间最长的一本书，它今天能够正式出版，我非常非常之高兴。”
金岳霖认为胡适的《中国哲学史大纲》是根据当时在美国流行的实验主义的哲学主张写出来的，“我们再看那本书的时候，难免一中奇怪的印象，有的时候简直觉得那本书的作者是一个研究中国思想的美国人；胡先生以不知不觉间流露出来的成见，是多数美国人的成见”。
有人问金岳霖，为什么书名叫论道，金岳霖回答：“道有中国味。”他写《论道》时，冯友兰也在写一部止血著作《新理学》。两人互看稿子，也互相影响。冯友兰说自己的书是“旧瓶装新酒”，金岳霖的是“新瓶装新酒”，冯友兰认为金岳霖对他的影响在于逻辑分析方面，而他对金岳霖的影响比较小，如果有的话，则可能在于“发思古之幽情”方面。
