到法國後，徐悲鴻進入巴黎朱利安學院，開始從最基礎的素描開始學習。剛開始不太習慣，因為以前在國內畫的多是寫意國畫。現在素描物體的時候，感覺自己的觀察和描繪非常不準確，可能會“像壹匹沒有韁繩的馬，很難駕馭”。為了改變過去畫畫的習慣，徐悲鴻停止了畫中國。
過了兩個多月，徐悲鴻開始找到壹些關於素描的感覺。1920，徐悲鴻報考了巴黎最高的法國國立美術學院繪畫系。這個學校書多，老師好，不收學費，入學考試嚴格。考試1個月後，徐悲鴻以100人中第14名的成績被錄取。
學畫畫的過程很枯燥，很辛苦，尤其是對於壹個來自中國的窮學生來說。為了省錢，徐悲鴻生活節儉，有時幾個星期每天都有面包和涼水。他盡量不畫耗材成本高的油畫，以寫生為主。沒錢請模特的時候，他就畫蔣碧薇，有時候在家裏對著鏡子畫自己。我們現在看到的徐悲鴻的很多自畫像都是他在這個時期創作的。
1921年夏天，由於國內政局動蕩，北洋政府壹度中斷留學生生活費，徐悲鴻被迫來到消費較低的德國柏林。在德國的近兩年時間裏，徐悲鴻從不錯過每壹個學習的機會。他要求柏林美術學院院長康普在博物館臨摹著名畫家倫勃朗的畫作。只要能維持生命，徐悲鴻就努力畫畫，每天畫十幾個小時，沒有間斷。為了畫出獅子走路時擡起的壹條後腿，徐悲鴻連續三個月去動物園寫生。
在德國期間，徐悲鴻看到很多藝術復制品都很優秀，於是向別人借錢，盡量多買，準備將來帶回國內。他的房間裏堆滿了購買的各種材料。借錢買這些東西，並不太照顧家庭生活。徐悲鴻經常引起妻子的不滿。
有壹次，徐悲鴻偶然在街上看到壹家畫店在賣康普等藝術家的作品，價格很便宜。他非常興奮，馬上意識到這是壹個收藏大師作品的絕佳機會，但現在他沒有錢。他已經壹年多沒領生活費了，欠朋友很多錢。他哪裏買得起藝術品？無奈，徐悲鴻去找宗白華等在德國留學的朋友幫忙，然後忍痛買了兩幅油畫和壹些康普的素描。現在這些作品收藏在北京徐悲鴻紀念館。