起初，郭默曾被刘曜围困，长久围城之下城内闹起了饥荒，于是郭默就以妻子小孩儿为人质，希望刘曜发点米粮给城内人员，表示刘曜前脚放粮，他后脚便投降。刘曜本是个性情中人，觉得郭默这厮品行不错，就应允了。哪知道郭默一拿到粮食，立刻反悔了，高筑城墙以抗刘曜。刘曜眼看被人耍了，心里顿时火冒三丈，当下就把郭默的妻子小孩沉河了。
死了老婆孩子的郭默又派弟弟去刘琨那求援，结果刘琨知道郭默平日里就是个偷奸耍滑之辈，担心自己一旦出兵等同于给郭默做了挡板。刘曜会转而咬上自己，而郭默却趁机开溜，便扣下了郭默弟弟。郭默弟弟眼看苗头不对，便从刘琨大营溜了出来，哪知道他前脚回来，郭默后脚又派他去出使石勒。
那时候石勒和刘曜还没翻脸，当下绑了郭默弟弟准备送给刘曜，可惜半路又让郭默弟弟溜了。郭默寻思坐等下去只能死路一条，便抛下百姓，带着少数人员逃出了城池。祖逖死后李矩和郭默合兵一处，哪知道李矩被围之时，郭默一看苗头不对，又抛妻弃子（不知道第几任了），逃了出去。
逃出生天的郭默南下投靠了东晋政府，对当时的皇帝司马绍一顿吹嘘，说自己在前方英勇作战，但终因寡不敌众而不得不退回来搬救兵。晋明帝司马绍听完感动地一伸大拇指说道：“忠臣啊，封你做征虏将军啦！”