1905年8月，京張鐵路正式開工，緊張的勘探和選線工作開始。詹天佑背著測量隊和儀器，沒日沒夜地在崎嶇的山上跑來跑去。壹天傍晚，猛烈的西北風在八達嶺地區咆哮著，夾帶著沙塵呼嘯而過，讓人睜不開眼睛。勘測隊匆忙完成工作，填好測量數字，從巖壁上爬下來。詹天佑接過筆記本，翻看數字，疑惑地問:“數據準確嗎？”？“差不多了，”測量員回答。詹天佑認真地說:“技術的第壹要求是精準，不能有壹點含糊和輕率。像‘大概’和‘差不多’這樣的說法不應該出自工程師之口。”然後，他拿起儀器，冒著風沙，吃力地再次爬到巖壁上，仔細復測，糾正了壹個錯誤。當他下來時，他的嘴唇凍得發紫。
很快，勘探建設進入最困難的階段。在八達嶺和青龍橋，有重疊的山脈和陡峭的墻壁掛著巖石，將開辟四條隧道，其中最長的超過1000米。經過精確的測算，詹天佑決定采用分段施工的方法:從山的南北兩端同時鑿，在山的中間開壹口大井，再在井內從南北兩端鑿。這樣既保證了施工質量，又加快了工程進度。挖坑的時候，用手挖了很多石頭，把噴湧的泉水壹個個挑出來。詹天佑作為總工程師，沒有架子，和工人們壹起挖石頭、挑水，滿臉都是泥和汗。他還鼓勵大家說:“京張鐵路是我們用自己的人和自己的錢修建的第壹條鐵路。全世界的眼睛都在看著我們，我們必須成功！”“無論成敗，絕對不是我們自己的成敗，而是我們國家的成敗！”
為了克服陡坡行車困難，保證列車安全爬上八達嶺，詹天佑創造性地利用“折返線”原理，在多山陡坡的青龍橋設計了壹條人字線，減少了隧道和邊坡的開挖。列車到了這裏，會配合兩臺大功率機車推拉，保證列車上坡安全。
詹天佑曾對整個工程提出三點要求:“錢少、質量好、完工快”。經過工人們的幾番鬥爭，京張鐵路終於在9月1909通車。原計劃六年完工，卻提前四年完工，工程造價只有老外預估的五分之壹。壹些歐美工程師乘車參觀後向詹天佑致敬。但詹天佑謙虛地說:“這是京張鐵路壹萬多員工的力量，不是我個人的功勞。榮耀應該屬於每壹個人。”
京張鐵路建成後，詹天佑繼任粵漢鐵路監理兼總工程師。這時，美國決定授予他工程學博士學位，並要求他親自赴美參加授銜儀式。為了全力投入祖國的鐵路建設，他放棄了這壹榮譽。
辛亥革命後，為了振興鐵路事業，詹天佑與同事成立了中國工程學會，並升任會長。在此期間，他對年輕工程技術人員的培養傾註了大量心血。除了以身作則，他還鼓勵年輕人“為發明而努力學習”，並要求他們不要“厚此薄彼，不要沽名釣譽”。以誠取人，不以己為鑒。"
詹天佑從事鐵路行業30多年，當時的中國幾乎每壹條鐵路都有不同程度的關系。晚年積勞成疾1919。周恩來同誌曾高度評價詹天佑的功績，稱他是“中國人民的光榮”。