20世紀末，夏商周三個斷代工程的研究，已把我國上古紀年史推進到距今4000年的夏朝初，那是大禹治水的時代。農業已經到了引水灌溉的階段（刀耕火種階段不知道人工澆灌）。
夏朝農業推進到臨汾壹帶，到了商代，已進入太原盆地，在太谷上遊建起小方國箕。那時的忻州盆地為少數民族婁煩人所占據。戰國時期農業文明推進到了桑幹河流域，已建起雁門郡。到了秦始皇統壹全國時，雲中郡已擴展到呼和浩特以南。
上述推測是從歷史地圖上查到的。因為遊牧民族居無定所，只有農耕經濟，農民才有固定住所，並建立城鎮。所以反過來，古時居民點分布的地方大都是農耕經濟達到的地方。朝廷也以中心城鎮劃分行政管轄片區，建立郡縣這種行政體制及相應的中心城邑。
這些城鎮雖已編入各朝代，但其地位不是很牢固的，外族可以武力入侵，接過管轄權，或者擄掠所有居民成為他們的奴仆。尤其緊靠草原遊牧民族活動區，這些城鎮是靠築城壘墻而武力保護的。因此他們耕作的土地也僅限於城鎮近郊，四處仍有大片空閑草地無人耕作。秦築長城防匈奴侵掠，是指長城內為確保區，有邊墻拒敵，可比較放心地耕作。而長城外所建的郡縣就有朝不保夕之慮。只有較大城鎮才有足夠勞力建築城墻，有較多的人可保衛家鄉。當然中央政府可能也派有少數兵卒負護衛之責。但他們主要駐守長城，確保城南居民。
在遊牧民族與農耕民族結合區，平時也不會天天以武力相交，他們應該和平相處、相互交流學習。戰國時趙武靈王提倡“胡服騎射”，穿短衣，學馬術，練弓箭，吸取“胡人”之所長。
在春秋時代，雜居在山西境內的不少少數民族，他們與漢族人的體貌長相不壹定有很明顯的區別，可能只是信仰、生活習慣、語言上有所不同。如當時歷史記載的戎、狄少數民族，他們也應是在農耕經濟下生活的。他們生活在華夏先民群居的空隙，常與華夏民族間有征伐之戰。春秋時期晉公子重耳為逃避內部殺害而逃入翟，並娶戎女為妻。秦國早期有少數民族戎雜居於內地，所以有秦滅茅戎的平陸之戰。
秦、兩漢實力強大，擋匈奴於長城北，秦有名將蒙恬鎮於西疆。漢有名將衛青、霍去病驅漢兵擊匈奴數千裏，引發匈奴整體西遷。到了東漢年間，中原內部鬥爭劇烈，引得匈奴大量南下，壹部分以歸附形式入籍漢朝，定居內地，改畜牧為農業。
曹操統壹北方，司馬炎篡位建晉，之後八王之亂，中國進入五胡十六國時期。鮮卑人拓跋珪入主大同，建北魏，後順裂谷大通道向南打過黃河定都於洛陽。他們是靠武力攻占而奪得天下，引發漢民大批南逃遷入江南。匈奴多支部落進駐山西，除了運城壹小片漢族勢力強大，整個晉北、晉中、長治幾乎全為胡人所占，所以後來有定居離石的匈奴人劉淵起兵滅晉建漢國。定居於武鄉的匈奴人石勒起兵反漢，建後趙，提倡漢化，後遭漢人反抗，奪取政權大殺胡人。這些匈奴人，大部分都改漢姓，變遊牧為農耕，慢慢融入農業社會而徹底漢化。
自然條件決定遊牧民族進入農業社會，壹旦定居便沒有空余草場提供他們放牧，他們只得改畜牧業為農耕業。這種南侵、定居、起兵作亂在中原地帶壹直持續了幾百年。隋唐的大統壹，再度把遊牧經濟屏蔽在長城外。歷史上稱東晉十六國時期為五胡亂華。其實是遊牧民族大規模南侵造成的社會混亂。不過最後以這股入侵者徹底融入漢民族而告終。
盛唐統壹，生產力提高，經濟發展，基本上保持了三百年穩定。唐衰，地方將官常引西北契丹幫自己爭權奪利建小王朝，不少地方官甚至割地請兵，所以此階段山西北部、中部常被北方部族所占據。歷史上有名的兒皇帝石敬瑭就是割地借兵，稱契丹為父，自立後晉王朝。契丹南下時與原已住忻州地區、太原土谷渾部族發生沖突而爭戰殺伐。此後又有了遼趁虛而入，經山西直攻洛陽。
這壹階段歷史稱五代十國。總體是北方遊牧民族勝居多。農業經濟被阻於太原以南。占領者好搶掠強擄，妳殺過來，我攻過去，打壹路搶壹路，使社會經濟停滯。六十年戰亂不息，之後趙匡胤統壹了中國，把疆界推到雁門關壹線。他加強了中央集權，穩定了社會，保護了農業經濟發展。北方強大的遼國，壹直與北宋對峙，大體維持了壹百多年的平靜，北方燕雲十六州歸遼，遼不時有南侵事件，到北宋後期，從東北興起的金國向西攻遼，宋聯金滅遼，結果金滅遼後趁機南下，從此山西又陷入金國統治。
金入主中原，改變不了裂谷中的自然地理面貌，所以外族入侵只是上層建築的更換，農耕經濟絕不會退回到遊牧經濟。但它有效地阻礙了農耕經濟北上。只有少數被俘的農民進入牧區，帶去了先進的農業技術，也促進了漠北經濟的發展。相應的，遼金入侵中原，學到了中原的文化，定居下來的少數民族上層人物逐漸被漢化。當年少數民族的姓氏如宇文、慕容等都被保留下來成為漢族的姓氏。壹部分少數民族改姓為李（存勖）、劉（淵）、石（敬瑭），幾代後他們也融入漢族中。
元朝迅速崛起，騎兵鐵蹄下，燒殺搶奪，隨意屠城。統治時歧視漢族。他們窮兵黷武，東征日本、朝鮮，南下印度，西抵莫斯科城下。經過幾百年戰亂，尤其元初的大殺戮，加上元末水災不斷，所以到明初，全國人口已不到盛唐的五分之壹。中華大地幾成荒野千裏，百裏無人煙。明初義軍戰事集中在江淮地區，因而山西逃過元明改朝換代的壹劫。山西高原農業收成反而年年有余，這些原因導致明初人口失均，山西與四周省份相比，成了人口大省（超過冀豫兩省總和），這就導致山西向四周大移民，而且是政府強制下有目的、有組織的移民。這就是“問我祖先來何處，山西洪洞大槐樹”這句民諺的由來。粗略估算明朝五十年，山西移出居民近200萬。其實山西移民集合的出發點有許多，只不過洪洞縣比太原、臨汾兩地遷移的百姓相對較多，加上廣勝寺泉水豐沛，可供南北百十裏移民飲用（有水渠長百余裏），標誌性的集合地旁有棵老槐樹，編成順口溜就較押韻，故流傳得更廣。
移民是為了把戰亂撂荒的土地復墾起來，把人口密度相對較高的山西人遷向四鄰人口稀少的省份，以恢復農業生產。而且政府出臺開荒三年不交稅，土地誰開墾歸誰有，政府發給種子、耕牛，沿途發物資等激勵政策。
當時政府統計，移民遷後各地人口大增，移民前，全國只有1065多萬戶，移民後增加到1600多萬戶；移民前耕田面積366萬頃，移民後增加到850萬頃；糧食產量移民前2089萬擔，移民後3278萬擔。這比元代全國平均年產量1210萬擔增加兩倍多。
當時移民主要向戰禍最劇的中原諸省，即河南、河北、安徽、山東、江蘇、陜西遷入，也有部分移入甘肅、寧夏，還有部分遷向晉北、晉東各地，據不完全資料統計，僅豫冀魯皖鄂陜甘寧八個省，就有260個縣有山西移民。
這次大遷徙還流傳出“五百年前是壹家”的民諺，從明洪武年間算起，到清末，恰好500年。這句話的含義是我們都從山西遷來，五百年前都是山西人。還有將小便稱“解手”，因為遷移是強制性的，前後多人都綁在壹條繩上，所以要方便需向官差申請解開所綁的手才行。