谢安之所以举荐谢玄，并不只是因为谢玄是他的侄子，还因为谢玄的确是一个文武双全的将领。谢玄从小就非常聪明，深得谢安器重。谢安曾经拿一个问题考他的子侄们，当时在场所的人只有谢玄一个回答上来了，而且回答得非常巧妙，让谢安非常开心。长大之后，谢玄显示出了非凡的军事才能，被朝廷委以重任。正是因此，谢安才能不避嫌疑，推荐谢玄去完成了这个艰巨的任务。
谢玄在出发之前去找谢安，向谢安请教如何才能打败数倍于自己的敌人。谢安却非常平静地告诉他：“你就尽管放心好了，我已经安排好了。”
当然，谢玄也没有让谢安失望。谢玄到达广陵之后，立即开始扩充军队。他对当时的形势进行了仔细地分析，觉得晋军战斗力不强，便招募了一批从北方逃来的农民，组成“北府兵”。这些农民全都经历过非常多的磨难，特别希望能够恢复北方，重返家园。因此，他们的战斗意愿要比由南方人组成的晋军更加强烈。经过一段时期的严格训练，“北府兵”的战斗力有了显著的提升。
前秦在苻坚和王猛的努力之下强大起来后，经常派兵騷扰东晋北面边境。东晋朝廷不堪其扰，想要派一个有才干的将军去那里镇守，彻底解决边防危机。这个时候，谢安举荐自己的侄子谢玄去边境镇守。
谢安在刚去桓温的幕府报到时，就遭到了别人的冷嘲热讽。有人故意给桓温送去一包草药。在草药中，有一味名为“远志”的药。桓温看到之后对谢安说：“这味草药也真奇怪。同一味草药，它的根叫远志，而它的苗叫小草，这到底是为什么呢？”桓温的参军大声回答说：“这个问题实在是太简单了，根长在土里，没有出来就叫远志，苗长在土外，出来了就叫小草了。”桓温听后大声地笑了起来。那个参军的话完全是在讽刺谢安，说谢安未出山前被人称为贤人，出山之后就什么也不是了。谢安知道，这是他们两个人合力演出的一场好戏，目的就是要让他难堪，所以便什么也没有说。
苻坚经过十多年的苦心经营，使得前秦发展成一个强大的国家。这个时候，他变得有些志得意满，决定领兵攻打东晋。前秦的大臣们听到这个消息后，纷纷劝说苻坚不要这样做。可是，苻坚一意孤行，于公元383年，亲自率领大军从长安出发，浩浩荡荡地向南挺进。一个月之后，苻坚主力部队到达项城（今河南沈丘南），由黄河以北赶来的部队也到达了彭城（今江苏徐州），位于益州的水军沿江向东进发。前秦水陆两军一齐向东晋进发，东晋面临着前所未见的灾难。
谢安出身于名门，他的祖先是非常有名望的士族。他四岁的时候，便受到过东晋名士桓彝的称赞。桓彝觉得他“风神秀彻”，长大之后一定会大有作为。西晋灭亡后，他从北方来到了南方，与王羲之、孙绰、支道林等一批当时的名士结交为好朋友，整天在东山玩乐，饮酒诵诗，谈论玄理。朝廷知道他是一个非常有才能的人后，多次征召他入朝为官，可是他只当了一个月的官，便辞官不干，返回东山了。他的妻子刘氏看到他不思进取，便对他说：“出仕做官，光宗耀祖，才是大丈夫应该做的事！你为什么多次拒绝朝廷的征召呢？”谢安对她说：“到朝廷做官并不是我的本意，但我恐怕那一天迟早会到来。”
大家都以为谢安不懂军事，却不知道他早已成竹在胸。他把对战事的分析讲给谢石、谢玄等人听，又对他们的任务做了部署。众将士听从谢安的指挥，最后成功地击退了前秦军队的进攻。
谢安在桓温的幕府任职不久后，谢万便去世了。谢安以服丧为由辞去了幕府的职务。可是没过多久，丞相司马昱又把他推举为吴兴太守。在吴兴，谢安充分展示了他的才能，几年时间便把吴兴治理得井井有条，百姓安居乐业。几年之后，他被提拔为侍中，成为朝廷重臣。由于谢安长时间在东山隐居，因此后人把重新出来做官称为“东山再起”。
谢安说得没错，很快他就不得不出山做官了。公元359年，谢安的堂弟豫州刺史谢万被贬为百姓，豫州这块陈郡谢氏经营多年的地盘也因此被别人夺去了。这件事使得谢氏经济、政治地益及家族的威望都受到非常大的影响。这个时候，谢安为了整个谢氏家族的利益，不得不走出东山，入朝为官。他很快就接受了征西大将军桓温的征召，担任桓温的军司马。虽然这只是一个八品小官，却能够因此修复谢氏家庭与掌握朝政大权的桓温的关系，这正体现出了谢安的深谋远虑。
这个消息在建康城内掀起了巨大的波澜。晋孝武帝和文武百官们都非常焦虑，担心东晋会被兵强马壮的前秦消灭。这个时候，他们把所有的希望都寄托在宰相谢安身上，希望谢安能够尽快想出对付前秦军队的办法。
谢玄以为在自己离开之前，谢安一定有话对他说，于是就一直等着谢安说话。可是等了半天，谢安一句话都没有说。谢玄回到家后，心里一直忐忑不安。第二天，他就请朋友张玄去谢安那里打探消息。张玄见到谢安后，还没有开口说话，就被谢安拉着下起了围棋。下完棋后，谢安又拉着很多人一起游山玩水，一直玩到天黑才返回家中。
在前秦数十万大军来袭之际，晋孝武帝和文武百官们都知道，只有谢安才能够保全东晋。谢安也非常清楚，这将是自己人生中最严峻的挑战。经过深思熟虑之后，他制定出一套非常完备的御敌方案，自己亲自坐镇建康，派自己家族的谢石及谢玄前往江北迎战。
