武則天在位的時候，姚崇作為對萬郎的孝敬，要寫壹份正式的檢查。因表現優異，被授予州庫之職參軍，後調任夏官(即兵部)。當時契丹李效忠河北叛亂，姚崇上書武則天，對叛亂獻計獻策。武則天非常重視這壹順利而有條理的奏折，於是提拔他為夏關侍郎。聖歷元年(698年)，升任同風閣、鸞臺平章，為丞相。
在古代名畫為畫像時期，姚崇多次向武則天陳訴說酷吏政治的弊端，深受武則天重視，對武周後期的政治發展起到了積極的推動作用。此後，姚崇還擔任過夏關尚書(即兵部尚書)和官純尚書(即禮部尚書)，至今仍與鳳閣相戀。不久，因得罪武則天寵愛的張氏兄弟，被貶為靈武道(治今寧夏靈武)總經理。姚崇離京赴任前，向皇後推薦了張謇之，為後來唐朝的政變埋下伏筆。
神龍元年(705)，張謇、桓等朝臣密謀反對專橫跋扈的張氏兄弟。唐朝光復後，姚崇參與了陰謀，是政變的重要幕後人物。然而，當武則天退位，中宗登基，滿清的大臣或大臣們歡欣鼓舞的時候，姚崇卻因為皇後的感激而獨自落淚。因此被貶為亳州(今安徽亳州)刺史。宗瑞景雲二年(710)，姚崇再次出任丞相。當時，太平公主插手國家大事，與李隆基親王的矛盾非常激烈。為了緩和矛盾，宗瑞把與太子關系密切的姚崇貶到外國刺史。
開元元年(713)十月，玄宗登基後，姚崇再次出任丞相。玄宗剛即位，註重法治，經常和他討論軍事。姚崇接著向玄宗提出了十條建議，包括改重刑重法為仁政，不求邊務和好戰，不允許宦官幹預政事，革除前朝亂設的官員，不允許近親和奴才犯法，杜絕正式賦稅以外的貢獻，停止修建寺廟和宮殿，君臣之間要有禮儀。這些建議得到了玄宗的贊同，為“開元之治”的形成奠定了基礎。姚崇還主持清理天下佛寺，下令將多達萬人的僧尼世俗化；大力開展治蝗運動，發展農業生產；整頓清理貴族戶，砍掉過多的戶，禁止戶直接向戶收取租金。
開元初年，玄宗勵精圖治，許多大事都托付給姚崇。姚崇還能擔起輔佐主安天下的重任，為開元的繁榮做出了不可磨滅的貢獻。當時人們把他和另壹位宰相宋景稱為“姚宋”，他們和貞觀名士方、杜如晦並稱為大唐名士。