高歡，渤海郡人（今天的河北和山東部分地區），曾經在北方六鎮之一的懷朔鎮當兵。
高歡家裡很窮，當兵時連匹馬都買不起，直到結婚之後，才在妻子家族的幫助下擁有了自己的馬。
後來高歡當上了函使（一種負責在軍鎮和都城之間傳遞資訊的官職），經常去洛陽送信。
洛陽是北魏的都城，很多達官貴人居住在此，高歡在這裡聽說了一件事，對他産生了很大影響。
當時洛陽有個官員叫張彜，他的家被禁軍士兵放火燒了，發生了這種事，朝廷應該立即捉拿行兇者。
然而，意想不到的是∶朝廷不管不問，仿佛這件事沒有發生過。原來，北魏時局混亂，魏軍軍紀不嚴，朝廷怕去軍隊抓人會引起兵變，是以就當作什麼事情都沒有發生，不了了之。
高歡由此認為∶北魏的統治已經混亂不堪，天下很可能會陷入動蕩。是以回到懷朔鎮之後，高歡散盡家财，大力結交各路英雄豪傑，為即将到來的亂世做準備。
數年之後，動亂真的開始了。
公元525年，由于北魏的社會沖突越來越深，北方六鎮發動起義，高歡加入了杜洛周上司的起義軍。
和杜洛周相處了一段時間後，高歡發現杜洛周沒什麼才能，還嫉賢妒能，高歡就打算幹掉杜洛周。結果行動失敗，高歡反而被杜洛周的人馬追殺，高歡被迫投靠了爾朱榮。
爾朱榮聽說高歡有些本事，就請他談談對時局的看法。
高歡說∶"現在皇帝暗弱，胡太後亂政，您既有實力又有謀略，可以找機會成就一番事業。"
一番話說得爾朱榮很開心，此後，爾朱榮經常找高歡商量事情。高歡有勇有謀，管理能力很強，這給爾朱榮留下了深刻的印象。據說爾朱榮曾經有一次問自己的手下們∶"如果有一天我死了，你們覺得誰可以代替我?"
爾朱榮的侄子爾朱兆作戰勇猛，大家都認為他可以接任。
爾朱榮微微一笑∶"爾朱兆頂多隻能帶三千人的部隊，能夠統領我大軍的人，隻有高歡!"
這是爾朱榮對高歡的充分肯定，不過這也隻是說說而已，後來爾朱榮突然被皇帝元子攸殺死，爾朱家族是絕對不會把軍隊交給高歡的，爾朱榮的大部分勢力被侄子爾朱兆繼承。
爾朱兆繼承了爾朱榮的勢力之後，為了幫爾朱榮報仇，爾朱兆帶兵南下，擊敗了北魏皇帝元子攸的部隊，殺死了元子攸。
這時他的老家遭到纥豆陵步蕃的攻擊，爾朱兆帶兵回援卻屢戰屢敗，無奈之下，爾朱兆準備撥給高歡部分人馬，讓他和自己一起打擊敵人。
這時爾朱兆的幕僚慕容紹宗表示反對。
慕容紹宗說∶"現在局勢不穩，很多人都對皇位有想法，高歡謀略過人，怎麼能幫他發展勢力呢?"
慕容紹宗考慮得很長遠，高歡的才能在爾朱兆之上，如果給高歡機會，他将來很有可能比爾朱兆更強。
但是爾朱兆是個頭腦簡單的莽夫，沒有認真思考慕容紹宗的話，反而認為他是在挑撥離間。爾朱兆把慕容紹宗關了起來，然後給了高歡一些兵力。
高歡沒有讓爾朱兆失望，很快和他一起打敗了敵人。
爾朱兆對高歡的及時出手非常感激，和高歡結拜成了兄弟，但是爾朱兆還面臨難題。
當時并州和肆州被爾朱家族統治，他們手下的士兵經常欺壓流落到當地的六鎮百姓，六鎮百姓是以多次起義，與爾朱家族開戰。
這讓爾朱兆憂愁不已，于是他就問高歡∶"用什麼辦法來應對六鎮百姓?"
高歡立即意識到，這是一個千載難逢的機會。
自己手下兵力不多，逃難到當地的六鎮百姓有二十多萬，而且大多數身經百戰，如果能把他們收為己用，高歡的實力可以大大增強。
他按捺住内心的狂喜，淡定地對爾朱兆說∶"殺戮不是解決的辦法，可以讓親信來管理他們，出了事就讓管理者負責，這樣就可以減少他們鬧事的次數。"
爾朱兆覺得這個辦法好，就問∶"誰能擔此重任?"這時一旁的大将賀拔允跳了出來，要求把這個活給自己幹。
高歡當然不能讓别人搶了這個肥差，他打了賀拔允幾拳，一臉嚴肅地說∶"這種大事必須要聽大王（指爾朱兆）的安排!"
爾朱兆一看高歡這麼尊重自己，很開心，以為高歡對自己很忠心，就表示要把這個差事交給高歡。
這是一個讓爾朱兆将來後悔萬分的決定。
高歡心中大喜，當時爾朱兆已經喝醉，高歡怕他酒醒後反悔，立即對外宣布了爾朱兆的任命。
六鎮百姓本來就對粗魯的爾朱兆沒有好感，聽到這個消息之後，他們紛紛聚集到高歡的手下，高歡兵力大增。
手裡雖然有了不少人，但如果不能脫離爾朱兆的控制，高歡還是難有作為，于是他又想了個點子。
他以并州正在鬧饑荒為理由，請爾朱兆允許自己率衆去太行山以東生活，以解決糧食不足的問題。
幕僚慕容紹宗再次提醒爾朱兆∶"高歡能力不小，讓他自己掌握大軍的話，将難以控制。"
可是爾朱兆不聽，他認為高歡是自己的結拜兄弟，不需要懷疑。爾朱兆的親信們大多被高歡收買了，他們一個勁地幫高歡說好話，是以爾朱兆最後同意了高歡的請求。
高歡這一走，就是海闊任魚躍，天高任鳥飛了!在路上，高歡一行人偶遇了爾朱榮的遺孀長公主。
長公主身邊帶了幾百匹好馬，馬在當時可是重要的戰争資源，高歡二話沒說，把這批馬全部搶了過來。
消息傳到爾朱兆那裡，爾朱兆勃然大怒，他知道自己信錯人了，立即帶兵去追高歡，并在襄垣（今天的山西長治一帶）追上了高歡的部隊。
這時漳水的水位很高，橋梁被水沖毀，雙方于是隔着漳水對峙。高歡知道自己的人馬現在還沒有形成強大的戰鬥力，不是爾朱兆部隊的對手，是以他決定把騙人進行到底。
他隔着漳水對爾朱兆說∶"我隻是借一下長公主的馬，組建騎兵部隊來對付強盜而已。"
爾朱兆是個容易沖動的人，為了把事情弄清楚，他竟然獨自渡過漳水，來和高歡面對面交談。
高歡巧舌如簧，三言兩語之後，居然讓爾朱兆再次信了他，爾朱兆甚至當晚還住在了高歡的軍營裡。
這是一個難得的好機會，高歡的部下們建議趁機殺死爾朱兆。是啊，大敵就在自己手中，這時候幹掉他，豈不痛快?
但是如果現在殺死爾朱兆，他的軍隊馬上會瘋狂地撲過來，以高歡部隊現在的狀态，很可能吃虧。
是以高歡沒有那麼做，他告訴部下們∶"現在已方人困馬乏，不是爾朱兆大軍的對手，暫時先放過爾朱兆。"
留得青山在，不怕沒柴燒。
于是第二天天亮之後，爾朱兆安全地回到河對岸，他又邀請高歡過河一叙。
爾朱兆是個魯莽無謀的人，他可以随便冒險，單獨前往敵人軍營，但高歡不一樣。
高歡很理性，不想以身犯險，是以他拒絕過河，氣得爾朱兆跳腳大罵。
但是前面有大水擋路，爾朱兆也沒什麼好辦法，隻好帶兵傳回了晉陽。
高歡則帶着六鎮百姓來到太行山以東的地區，慢慢發展壯大。
雖然離開了爾朱兆，但是高歡在名義上還是爾朱兆的下屬，高歡要想自立門戶，必須和爾朱兆劃清界限。為了達到這個目的，高歡想了一個點子。
他以爾朱兆的名義給自己寫了一封信，說爾朱兆要求把六鎮百姓分給軍隊當奴仆。消息傳開之後，六鎮百姓大驚失色，對爾朱兆恨之入骨。
然後高歡故意多次延緩這個計劃，刺激六鎮百姓的情緒。
等戲演得差不多的時候，高歡對六鎮百姓說∶"我們大家都是背井離鄉的人，不料大王（指爾朱兆）突然有這樣的指令，我們去是死，不去也是死，怎麼辦?"
六鎮百姓高呼∶"反了!"
這正中下懷，從那天起，高歡以六鎮百姓為基礎，正式起兵對抗爾朱家族。