蔡元培回国后担任了教育总长，把德国留学的成果应用于中国教育，结合国情发展出了适合中国的教育方针，就在蔡元培工作逐渐走上正轨的时候，他被迫接受了一个新的任务。

　　当是孙中山被推举为临时总统，面对手握军事和政治实权的袁世凯，心怀家国的孙中山认为，如果袁世凯能同意共和政体的话，自己不是一定要担任总统之职；此外他还担心自己当总统后，袁世凯会用武力来镇压革命军。于是孙中山声明，如果袁世凯能推翻清政府，就把大总统的位置让给袁世凯。

　　1912年2月中旬，袁世凯迫使清帝退位，孙中山遵守承诺辞职，然后推举袁世凯成为总统。但孙中山同时也列出了三个条件：一是南京是由各省代表议定的临时政府地点，不能更改；二是新总统要到南京就任；三是新总统必须遵守临时政府制定的约法和颁布的法律及章程。对于这三个条件袁世凯迟迟没有回应，孙中山为了维护革命成果，就派出蔡元培担任专使去迎接袁世凯来南京上任。实际上老谋深算的袁世凯已经胜券在握，又怎么会答应孙中山的条件呢？当时局内人士都劝说蔡元培不要接下这个费力不讨好的任务，不可能成功；但蔡元培从大局出发，考虑形势后认为无法推却，还是接受了这个任务，前往南京。

　　蔡元培一行专使团到达北京后，与袁世凯进行了长达三天的会谈。表面上看，袁世凯摆出一副对于到南京上任毫无异议的态度，但却旁敲侧击地表明身边的其他人都很反对，也以北方局势尚未安定为借口一再拖延动身的日期。2月29日晚发生了三镇兵变，乱军闯入专使团驻地大肆抢掠，蔡元培一行毫无还手之力，只能在第二天清晨避到六国饭店。这时候袁世凯的手下孙宝琦过来慰问，说乱军是因为“怕袁世凯离开北京抛弃他们”才这样做的，抢掠专使团的行为只是为了能回老家。在这之后，又连续发生了天津和保定等地的兵变，外国列强也借机调兵入京，局势一片混乱。在这种情况下，南京方面只能向袁世凯让步，让他留在北京，将北京确定为临时政府所在地。

　　蔡元培在离开南京担任专使的一个月里，把工作重任暂时交给了次长景大昭。这景大昭在蔡元培不在的期间里，自作主张地列出了数十名文学家的名单，分别让他们担任司长、科长、参事等职务，并发下委任状。他的说法是：这样做可以为这些人获取一席之地，以免总统府迁移后他们会有被遣散的风险。蔡元培回来后，认为景大昭的做法非常不妥，在详细说明这件事的利弊得失后，劝说景大昭取消之前的决定，然后果断退还了自己的委任状，跟蒋维乔、钟观光等人一起联名辞职。当时的总统府秘书胡汉民得知词事后，对蔡元培的做法非常不满，认为他不懂人情世故，不知道提拔照顾老同志。然而内心正直的蔡元培并不在意别人怎么看，他始终坚守自己的用人宗旨，那就是唯才是举，能者在职，从不拘于党派言论。他这种正直而毫无杂念的心态在日后的工作中，也表现得越来越明显，始终跟他为人原则保持一致。

　　1912年3月11日，仿效法国民主共和制的《中华民国临时约法》颁布了，把《临时政府组织大纲》里的总统制改成了责任内阁制，设立参议院为最高机关，内阁代元首对国会负责，总统颁布的法律和命令等都必须经国务院通过。其中内阁总理由同盟会的成员担任，王芝祥担任直隶都督，唐绍仪出任内阁总理。总的来说，袁世凯虽然表面上同意实行总统制，实际上却大权独揽。唐绍仪在专使团离开北京前接到要组建内阁的命令，其中蔡元培被任命为教育总长。蔡元培知道后极力推辞，于是这个职位被更换为范源濂，但消息一传出去，外界就传言说蔡元培是因为没有完成迎接袁世凯的任务才被削职，这种传言令他压力很大。再加上孙中山也劝他要顾及南北关系，说接受这个职务更为妥当。于是众望所归，蔡元培再次担任了教育总长。

　　蔡元培上任后面临的最大问题就是教育部的重建。他不改初心，四处搜寻合适的人才，推荐范源濂担任部长；同时孜孜不倦地筹划适合国家发展的教育方针。蔡元培在《我在教育界的经验》这篇文章里写到，当时范源濂讲：“小学没有办好，怎么能有好中学？中学没有办好，怎么能有好大学？所以我们的第一步要整顿小学。”而蔡元培讲的是：“没有好大学，中学师资哪里来？没有好中学，小学师资哪里来？所以我们要先整顿大学。”由此可见这两人都是工作认真负责的人，不仅在思路上能够互补，在工作上也能互相理解和配合。

　　关于蔡元培担任教育总长时任人唯贤的故事，还有很多。王云五之前在上海从事教育方面的工作，中国民国成立以后被委任为总统府秘书。他对教育有着独到的见解，曾经给教育部写过有关高等教育改革的相关建议。蔡元培看到建议以后觉得很有道理，于是亲笔回复了他，还邀请他来教育部工作。王云五请示了孙中山以后，孙中山同意他同时为总统府和教育部工作。在这段共同工作的时光里，王云五和蔡元培因为志同道合成为了一生的挚友。

　　1912年4月，教育部初步建立，蔡元培把工作重心转到了全国性的教育会议上，决定在暑假期间召开临时教育会议，尽快确立新的教育方针和建立新的学制。1912年7月10日，临时教育会议在北京召开，由蔡元培致开幕词，参会人数有80多人，提案多达92件。这次会议通过了《教科书审定办法案》、《教育会组织纲要案》、《小学教令案》、《中学教令案》、《专门学校令案》、《实业学校令案》、《大学令案》等提案，还拟定了大、中、小学的学制和学令，把大学分为文、理、法、商、医、农、工七种，其中以文科和理科为主；教育部也规定了学校管理的具体细则和课程标准等，在教育上采取男女平等的制度。其中“废止尊孔读经”和“用美感教育完成其道德”等思想都是在这个时期提出的，蔡元培把在国外学习到的思想文化用于改变落后的中国教育，后来被称为是中国实行美学教育的先行者。

　　在蔡元培担任教育总长的期间，确立的新的教育方针体现了民主革命的精神，具有反封建的进步意义。他在工作上兢兢业业，对各方面作出了必要的改革，把许多在当时甚至多年以后对中国教育发展都很有益的工作落到了实处，可以说是为中国近代教育发展开了个好头。

　　这本来是一个很好的开端，但随着后来袁世凯总觉得自己权太小就经常和总理闹矛盾，因为反对袁世凯专权，蔡元培便辞去了教育总长一职。尽管任期只有短短六个月，但这六个月，却是中国教育史上最为重要的时期：蔡元培对全国教育进行了若干重要改革，除改订教育宗旨，废除忠君尊孔之外，还废除读经，改革学制，修订课程，实行小学男女同校，推行义务教育及社会教育等。