隋朝初年，授阜陽縣尉。晉陽起兵，成為唐太宗幕府的謀士，並征召曹參軍。歷史上的巡撫曾遷居陜西，反叛薛、、劉武周、和竇建德。他遷居秦宮搞中郎將，積極運籌帷幄，受到當時人的尊敬。文學館成立後，在18個光棍中排名第壹。在參與策劃玄武門之變時，他身先士卒，拜左書子為太子，封蔡國公。唐太宗即位後，歷任兵部尚書、校尉助理、吏部尚書。他右遷，輔佐方選拔人才、制定法度，人稱“方謀都督”。
貞觀四年(630年5月6日)，卒年46歲，追授司空、賴國公，謚號。貞觀十七年(643)，圖文靈巖閣位列第三。