幼年喪父，少年結交名流，與劉惔、殷浩齊名。後與庾翼相交，受庾翼推薦，娶晉明帝之女南康長公主為妻，並擔任瑯琊內史，歷任徐州刺史、荊州刺史、江州刺史、揚州刺史、征西將軍、都督天下諸軍事、大司馬等職。
公元三四七年（永和三年）攻滅成漢，收復蜀地，後三次北伐，戰功累累，威名赫赫。公元三六壹年至公元三七三年（海西公、簡文帝、孝武帝期間）獨攬朝政，欲行篡位之事，後綜合各方利益沒有發難，憂憤而死。