当时，担任耶稣会东方总巡察使的是范礼安，他主要负责向中国派遣基督教传教士。可是，由于明朝实行了闭关锁国的政策，所以之前的传教士们都只能停留在澳门地区，而不能进入中国内地传教。万历八年（1580年），利玛窦被神父罗明坚举荐给了范礼安，并被授予神职。万历十年八月，利玛窦应召到达距家数万里的澳门，开始了与罗明坚一起进入中国内地传教的尝试。
从万历年间开始，西学开始在士大夫之间流行。在西学东渐的过程中，意大利传教士利玛窦功不可没。
利玛窦（1552～1610年）生于意大利马尔凯州的马切拉塔，原名中文直译为玛提欧·利奇，利玛窦是他的中文名字，他十岁进入家乡的耶稣会寄宿学校，七年之后被父亲送到罗马，在圣汤多雷亚学院预科学习法律。父亲原本希望利玛窦能在法律方面学有所成，可是利玛窦违背了父亲的愿望，他在学习了三年的法律之后，开始在耶稣会主办的罗马学院学习人文和科学，并向数学家克拉乌学习天算。在这一时期，利玛窦还学会了拉丁语和希腊语，并且能够运用葡萄牙语和西班牙语。
万历二十五年（1597年），利玛窦被任命为负责中国传教的主管，于是他开始策划去北京传教。次年，利玛窦设法与礼部尚书王忠铭一起到达北京，但是由于战争被迫离开。万历二十七年，利玛窦定居在南京，并建立了第四个传教驻地。利玛窦在南京居住期间，通过瞿太素结交了李贽、徐光启等名士，还与一位和尚展开了一场辩论，并凭借其科学性的思辨占了上风。接着，他在南京建立了第四个传教驻地，大力开展传教活动，使得南京成为中国天主教史上最重要的传教中心之一。
在南京待了一年，利玛窦就带着准备献给皇帝的礼物开始了北京之行。万历二十九年（1601年）初，利玛窦抵达北京，向万历皇帝进献了自鸣钟、圣经、《万国图志》、大西洋琴等西方物品。万历皇帝非常喜欢，下诏允许利玛窦等人长期居住在北京。
利玛窦在进行传教活动的同时，也为中西方的文化交流做出了很大的贡献。万历三十五年（1607年），利玛窦与徐光启合作翻译并出版了欧几里德《几何原本》的前六卷，该译本首次把欧几里德几何学及其严密的逻辑体系和推理方法引入中国，同时确定了点、直线、平行等许多我们现在耳熟能详的几何学名词。万历三十八年五月（1610年），利玛窦病逝于北京，首次获明朝皇帝批准在中国安葬，就像他当初所说的那样终老于中国了。
利玛窦在韶州期间还攻读了《四书》，并将其译为拉丁文，这是第一次有人将《四书》翻译为拉丁文。
利玛窦是有备而来的，他从西方带来了许多传教用的东西：圣母像、地图、三棱镜、欧几里德的《几何原本》……这些新事物吸引了许多中国人的眼球，尤其是利玛窦制作并印行的首张中文世界地图《山海舆地全图》，它使中国人第一次接触近代地理学知识，开阔了中国人的眼界。利玛窦一边给中国人讲解地图，一边介绍他们的宗教信仰。利玛窦还高度赞扬了中国文明，说“中国其实就是一个世界”；还说中国人对医学、自然科学、数学和天文学都非常精通。利玛窦同时认为在中国传教的可能还是很大的，因此，利玛窦更加坚定了传教的决心。
万历十二年（1584年），利玛窦与罗明坚在广东肇庆建立了第一个传教驻地。他们初来时，并不敢直言是来传教的，而是自称来自天竺，因为仰慕中国才决定终老于此。为了博得中国官员的信任，神父们把主要精力都放在了学习汉语和中国的礼仪习俗上，行事十分小心。为了博得人们的好感，神父们还打扮得像是佛教僧侣。因此，中国人都以为他们是远道而来的佛教徒，只是长相与之前所见的僧人略有不同而已，所以没有驱赶他们离开。
利玛窦在中国生活了十二年之后，深知书籍在中国的作用远远胜于言语，因此，他在南昌建立了新的传教驻地，然后出版了他的第一部中文作品《交友论》。《交友论》主要收集了亚里士多德、普鲁塔克、西塞罗等西方著名哲学家的交友格言，利玛窦为了适应中国文人的情感对某些方面进行了修改，然后编成一个集子，还为它作序并出版，再作为礼物送给王室成员，引起了人们的兴趣。友谊被孔子认为是天下五伦之一，利玛窦选择以友谊为主题的格言，表现了他抓住了中国文化的精髓。利玛窦明白，基督教必须表明自己与中国的社会秩序是统一的，才能被中国人接受。利玛窦的付出没有付之东流，《交友论》深得当时士大夫的赞赏。
除了《交友论》之外，利玛窦还选择了适合中国人伦理观的西方伟人语录加以刊行。他放弃了建造教堂、公开传教的方法，通过用“天主”偷换了中国自古就有的“上帝”概念，逐步探索并实践了他的传教策略，最终形成了一套成功的传教策略。在南昌，利玛窦建立了第三个传教驻地。
利玛窦二十六岁时就获准赴远东传教了。第二年春末，利玛窦来到了西班牙的里斯本，在里斯本科英布拉的寄宿学校等待前往印度的船只。次年三月，利玛窦与另外十四名耶稣会传教士一起乘船从里斯本出发，绕过好望角，途经莫桑比克，历经艰辛，终于在九月抵达亚洲最重要的殖民地——印度果阿。利玛窦到达果阿之后，一边传教一边继续学习神学。在印度传教远远不像利玛窦想象的那么容易，好在耶稣会在日本的传教还比较顺利，这给了利玛窦以鼓舞。在印度的四年里，利玛窦还学习了人文学科，并认识到应该允许印度人也学习哲学、教理和神学等欧洲文化，还把这一想法传达给了耶稣会总部。
为了传教，利玛窦还在肇庆建立了“仙花寺”，引得包括士人、僧人在内的许多中国人前来跪拜，所以神父们都非常高兴。不过，这些中国人前来跪拜只是出于礼节而已，并没有其他意义。接着，神父们又翻译了《主的祈祷》和《圣母赞歌》等宗教小册子，然后向中国人传播。总之，利玛窦利用解释各种西方事物的机会传播了他们的宗教信仰，使得中国人开始对基督教有了兴趣。于是，罗明坚用拉丁文撰写了《天主实录》，然后由利玛窦和一名中国秀才一起将其翻译成中文，以解释天主教的教义。《天主实录》是西方人用汉语书写的第一部天主教神学著作，它将天主教教义和儒家思想汇合在一起，比较容易被中国的士大夫阶层所接受，它也确实引起了许多中国人的兴趣。
利玛窦在北京期间，以丰富的中西方知识结交了中国的许多士大夫。他经常与宾客们谈论灵魂、天堂和地狱等，并用中文编撰了《二十五言》、《天主实义》等新书，得到了许多士大夫的敬重。到万历三十三年时，北京信奉天主教的中国人已达二百人，其中包括进士出身的徐光启等朝廷大臣。
传教士们想通过汉语著述天主教义来“捕捉中国人的心灵”，因此他们在到达澳门之后都努力学习汉语。利玛窦也不例外，他刚开始学习汉语时，觉得汉字非常不可思议，并对它产生了浓厚的兴趣。在此期间，利玛窦碰巧遇到了日本的天正遣欧使节团，于是顺便学习了一点儿日语。
万历十七年（1589年）夏，广东新任总督将利玛窦所住的西式建筑据为己有，并把传教士们都驱逐出了肇庆，利玛窦只得移居韶州。在韶州期间，利玛窦一行先是遇上了强盗打劫，然后是利玛窦的两名部下相继去世。万历二十五年，麦安东神父也去世。两年之后，利玛窦一行就只剩下他一个人了。幸好利玛窦在肇庆结识了一位士人，这位士人名叫瞿太素，他与利玛窦既是好友又是师徒，他不但帮助利玛窦翻译了欧几里得《几何原本》的第一卷，还向高官们宣传了利玛窦自制的天体仪、地球仪和计时用的日晷等西洋物品。因此，当地的达官贵人逐渐熟悉了利玛窦，还邀请利玛窦前去做客。通过与中国许多上流社会人士的接触，利玛窦发现当时的中国人并不尊重僧人，于是他在征得范礼安的同意之后留起胡子，打扮成了儒士的模样，以便与中国官员交往。经过多方努力，利玛窦在韶州建立了第二个传教驻地。
万历二十二年（1594年），利玛窦尝试跟随将要去援朝抗日的中国官员石星进入北京。可是，在到达南京时，事态有变，所以利玛窦就身不由己地来到了南昌，并获得在南昌居住的许可。在南昌期间，利玛窦结识了江西巡抚陆万垓，向他展示了三棱镜、钟表和西国记忆法，还介绍了一些西方书籍。之后，利玛窦又向当地的学子讲起了数学、日晷记时等问题，还成功预测了一次日食。因此，利玛窦很快就成了当地的知名人物，并结交了当地的许多儒士、权贵，还受当时的名士章潢之邀去白鹿洞书院讲学。利玛窦带来的地球仪、玻璃器皿、西式装订书籍等礼物，引起了王室成员以及各级官员的兴趣。于是，利玛窦就在自己的住处举行了“科普”展览，还向人们展示了他超强的记忆方法……
经过几次尝试，利玛窦和罗明坚都没能建立起第二个传教驻地。不久，罗明坚被教皇召回罗马另有安排，利玛窦和另外一名神父麦安东继续留在肇庆主持传教工作。
