万历三十五年（1607年），三年翰林院庶吉士学习期满。恰好这年五月，叶向高当上了宰相。而徐光启担任了翰林院检讨，职掌纂修国史、玉牒等事。然不到一个月丧父，返乡守制三年。丁忧期满，仍起复为翰林院检讨，曾在司礼监内书堂教小太监们读书识字。万历四十一年（1613年），徐光启充任会试同考官，慧眼识珠录取了之后皆成名臣的吕维祺、鹿善继、张宗衡等人，但也因此得罪了持不同意见的魏广微，又因引进西方科技等事为守旧派攻击，心情烦闷致疾病发作，遂告假前往天津，“田于津门，盖欲身试屯田法”。万历四十二年八月，叶向高因为面临来自各方面的反对，以退为进，辞职回乡。万历四十四年（1616年），徐光启的病好了，回到朝廷。第二年（1617），徐光启升了一级，当上了左春坊左赞善，从六品。 左春坊左赞善是太子府的官员。万历四十六年（1618年），针对辽东前线战事不断，徐光启连上七个折子，讲述军事方略，加上有不少朝廷官员称赞徐光启有军事才能，明神宗任命他为詹事府少詹事兼河南道监察御史，让他去练兵。徐光启是个军事人才，而且是个具有后世军事理念的军事人才。他撰写了一本《器胜策》，就是后世美军推崇的武器制胜论。汉族在对抗北方游牧民族的军事优势就是武器和计谋，而在明末的明金战争中，由于后金的统治者也具有先进的思想，不排斥火器的使用，所以在战场上明军的现有火器并没有绝对优势。但是，一支以火器，还是原始火器为主的军队，比主要使用冷兵器的军队的训练难度大很多。加上使用火器作战的后勤保障难度也比冷兵器大太多。但兵、户、工等部既不拨军饷，又不予器械，“人情狃于晏安，当事者复多掣肘，至使士兵露宿空拳”。面对缺饷少粮的严峻局面，徐光启先捐出自己的俸禄，又向大臣们募捐，多方筹措来一些饷银将练兵之事维持了下来。为了挑选出精兵，他“独身酬对五六千人，逐一辨析，逐一劝勉，发给印照俵散盘费，自朝至暮，手口并作，劳勚之后，前疾复发。头目昏眩，时欲倾仆”，最后不得不再一次辞职养病。天启年间，徐光启虽然不是东林党人，但与许多东林大佬有着个人信仰方面的关系。因此，没有重返朝堂，而是默默地搞着他的研究工作。纵观徐光启的一生成就，他投入时间精力最多的就是农事。在天文历法方面，军事方面，水利机械方面都有不小的成果。但对后世影响最大的是数学方面的，其中最闪亮的就是和利玛窦一起翻译了《欧几里得原本》前六卷。在徐光启眼里，“西泰诸书，致多奇妙”，而八股文章如同“爬了一生的烂路，甚可笑也”；而利玛窦等人“其教必可以补儒易佛，而其绪余更有一种格物穷理之学，凡世间世外、万事万物之理，叩之无不河悬响答、丝分理解，退而思之穷年累月，愈见其说之必然而不可易也。格物穷理之中，又复旁出一种象数之学。象数之学，大者为历法、为律吕，至其他有形有质之物、有度有数之事，无不赖以为用，用之无不尽巧妙者”。利玛窦眼里的徐光启则是：“他把从我们这里所听见的好事和有益的事，或是关于圣教道理，或是关于西方科学，凡可以加重我们声誉的，他都笔录下来，预备编辑成书……”在利玛窦带来的众多书籍中，徐光启选中了《欧几里得原本》。这古希腊数学家欧几里得（Euclid，公元前330-公元前275年）的巨著，集当时希腊数学之大成，是用公理化方法建立起来的数学演绎体系的最早的典范之作，在西方甚至被称为“数学的圣经”。徐光启认为“几何原本者度数之宗，所以穷方圆平直之情，尽规矩准绳之用也。”
因此，“此书未译，则他书俱不可得论”。反过来，利玛窦也认为，“把《欧几里德原本》译成中文，此举不但把科学介绍给大明帝国，提供中国人一种有用的工具， 而且也使中国人更敬重我们的宗教”。徐光启与利玛窦翻译的本子是根据16世纪欧洲数学家克拉维斯（1537-1612年）注释的拉丁文本，全书十五卷，前六卷为平面几何，卷七至卷十为数论，卷十一至卷十五为立体几何。这对徐光启而言，自然是个艰巨的挑战。由于科举只考文字，不试数学。徐光启数学方面还很薄弱。这点恰是金天启的战友杨照峰对后世高考的诟病。经过一段时间的学习，徐光启完全弄懂了欧几里得原本的内容。实际上，早在1592年，一个名叫瞿太素的官宦子弟，已帮助利玛窦将《几何原本》的第一卷翻译成了中文。而后，利玛窦在南京收了个叫张养默的学生悟性很高，利玛窦在日记中夸赞道：“他无师自学了欧几里德的第一卷……”但是要完成整卷书的翻译不光要有悟性，还要有毅力，要充满狂热地使命感。从1606年的冬天开始，开始了紧张的翻译工作。这部著作是用拉丁文写的，拉丁文和中文语法不同，词汇也很不一样，书里的许多数学专业名词在中文里都没有相应的现成词汇。要译得准确、流畅而又通俗易懂，是很不容易的。然而汉字的神奇力量体现了，相对拼音文字的翻译，只能用现成的近义词，最后表达会不准。而汉字可以造词。比如意大利语中，Ellisse和cerchio，你根本不知道两者关系。但翻译成中文是椭圆和圆。就算你不知道椭圆是啥，但你猜得出它和圆有关。先由利玛窦用中文逐字逐句地口头翻译，再由徐光启草录下来。译完一段，徐光启再字斟句酌地作一番推敲修改。译文里的“平行线”、“三角形”、“对角”、“直角”、“锐角”、“钝角”、“相似”等等中文的名词术语，都是经过他呕心沥血的反复推敲而确定下来的。1607年春，徐光启和利玛窦译出了这部著作的前六卷。徐光启想一鼓作气，接着往下译，争取在年内译完后九卷，但利玛窦却主张先将前六卷刻印出版，听听反映再说。付印之前，徐光启又独自一人将译稿加工、润色了三遍，尽可能把译文改得准确。然后他又同利玛窦一起，共同敲定书名的翻译问题。这部著作的拉丁文原名叫《欧几里得原本》，如果直接音译，不容易被直观理解。如果按照它的内容，译成《形学原本》，又显得太直白。利玛窦说，中文里的“形学”，拉丁语叫作“geometria”，它的原意是希腊的土地测量的意思，能不能在中文的词汇里找个同它发音相似、意思也相近的词。徐光启查考了十几个词组，都不满意。于是他边踱步，口里反复念Geo。突然，“几何”一词跳出来了。（徐光启是上海人，要用沪语读）。觉得它与“Geo”音近意切，建议把书名译成《几何原本》，利玛窦感到很满意。然而，在前六卷就是平面几何部分出版后，徐光启继续翻译下去，利玛窦却搪塞道，“请先传此，使同志者习之，果以为用也，而后徐计其余”，婉言加以拒绝。对于个中原委，众说纷纭。《利玛窦中国札记》里就说，“利玛窦神父认为就适合他们的目的而言，有这六卷就已经足够了”。也有人认为利玛窦在罗马学院学习时，《几何原本》在二年级学习前六卷的平面几何部分，最后年级，才学习后九卷。可是利玛窦急于到中国来传教，没有学习最后的课程就离开了。1607年5月，也就是《几何原本》前六卷的翻译刚刚完成的时候，徐光启的父亲去世了。等到“丁忧”期满，1610年12月徐光启才回到北京，这时利玛窦却已去世半年有余，两人再也没有合作翻译的机会了。