是时，孝武帝设朝，君臣礼毕，分列两边。时近臣奏知，西蜀汉中诸郡，却被秦王坚遣使邓羌取去，目今秦兵屡屡扰境。
孝武帝大惊曰：“如此怎生奈何？”群臣奏曰：“请陛下降旨，求文武良将有才略者，命其举荐入朝，使其镇御北方，可保境内安也。”孝武帝曰：“然！”遂颁诏求文武良将。
当谢安奏曰：“臣举一人，有万夫不当之勇，有鬼神不测之谋，若以此人为将镇北，则秦不敢窥觎江南。乃臣兄之子谢玄，字幼度。先与郗超同为丞相桓温参军，桓温多用其智，屡建功效。今桓温已死，与郗超同归朝廷，现在班中，可使总镇，管取边界得宁。”帝从之，召谢玄，谓曰：“今秦兵节次犯境，汝之叔父谢安荐汝有文武之才，朕拜卿为镇武将军，监江北诸军事，总领诸镇，屯守北岸。”谢玄谢恩曰：“臣本驽钝之才，不足以骋千里，今蒙陛下擢用，出镇之地敢不保全。”于是谢恩而出。
时桓冲以秦人强盛，欲移镇江南，奏自江陵徙镇上明，使刘波守江陵，杨亮守江夏，帝从之。初，中书郎郗超自以其父愔位秩应在谢安之右，而优游散地，常愤悒形于词色，由是与谢氏有隙。时朝廷方以秦寇为忧，诏求文武良将可镇御北方者，安以兄子玄应诏，超闻之叹曰：“安之明，乃能违众举亲；玄之才，足以不负所举。”众咸以为不然，超曰：“吾常与玄共在桓公府，见其使才，虽履屐之间，未尝不得其任，是以知之。”
玄既镇广陵，募骁勇之士，得彭城刘牢之等数人，以牢之为参军，常领精锐为前锋，战无不捷，时号“北府”兵，敌人畏之。初，郗超党于桓温，以父愔忠于王室，不令之知。及超病甚，出两箱书，授门生曰：“我父年尊，我死之后，老父若以哀悼废寝食者，可呈此；不尔，即焚之。”及超卒，愔果成疾，其门生呈箱，愔发之，皆超昔与桓温往返密计，愔大怒曰：“小子死已晚矣！”遂不复哀。