1962至1969年間,鮑威爾先後兩次被派到越南參加戰爭。1969年從越南戰場上回國後進入喬治·華盛頓大學,1971年畢業並獲商業管理碩士學位。畢業後他被分配到五角大樓助理參謀長幫辦辦公室任職。1973-1974年任駐韓國美軍大隊司令。此後歷任第101空降師第2旅旅長兼美駐德國陸軍第5團團長、美國國防部副部長高級軍事助理、國防部長高級軍事助理。1987年12月-1989年1月任裏根總統的國家安全顧問。
1989年喬治·布什總統任命鮑威爾為參謀長聯席會議主席,晉升四星上將。鮑威爾是美國歷史上第壹位任該職的黑人,也是最年輕的參謀長聯席會議主席。任職期間,鮑威爾參與指揮了美軍入侵巴拿馬、出兵菲律賓和索馬裏等重大事件。1990年,在鮑威爾的指揮下,美軍取得了海灣戰爭的勝利。由於在海灣戰爭中的卓越貢獻,美國國會授予鮑威爾美國最高榮譽獎—金質勛章。1993年9月30日鮑威爾退役,隨即辭去參謀長聯席會議主席的職務。2001年1月至2005年1月任國務卿,是美國歷史上第壹位黑人國務卿