春秋戰國時，清遠地區屬百粵。秦統壹中國後，設置行政機構，開發嶺南，清遠地區屬南海郡、長沙郡。漢初，屬趙佗稱號的南越國。高祖年間（前206—195年）先後置桂陽縣（今連州壹帶）、陽山縣、湞陽縣和含匡縣（湞、含今為英德市境），均屬桂陽郡。元鼎六年（前111年），置中宿縣（原清遠縣壹帶），屬南海郡。三國時，各縣隸屬始興郡。南朝梁天監年間（502—519）置清遠郡，清遠之名由此而始，轄中宿、威正、平、恩洽、浮護五縣。1988年1月7日，國務院批準撤銷清遠縣，設立清遠市，原清遠縣分為清城、清郊兩個市轄區（1992年清郊區改為清新縣），並劃廣州市市屬的佛岡縣和韶關市屬的縣、陽山縣、連山壯族瑤族自治縣、連南瑤族自治縣、英德縣為清遠市所屬（英德、連縣1994年改為縣級市）。