公元383年,前秦苻坚率领号称百万之众南下,攻打东晋。此前,东晋军队连连战败,得知前秦军逼近淝水后,建康城里更是一片惶恐,可谢安依旧镇静自如。他以征讨大都督的身份负责军事,并派出弟弟谢石、侄子谢玄等率兵八万前去抵御。
这一战,史称“淝水之战”。开战之时,前秦的兵力是东晋的十倍多,晋军必败几无悬念。然而,坐镇建康的谢安似乎并无担忧。《世说新语·雅量》记载,东晋将士们在前线鏖战之时,谢安却怡然自得与客人下着围棋。棋局进行中,从前线派来的信使到了。谢安接过信看完,什么话也不说,继续下棋。客人询问谢安,前线战事究竟如何?谢安回答:“小儿辈大破贼。”