何進又派遣張遼前往河北募兵，張遼在河北共募得千餘人，準備返還京城向何進複命，還未到達京城之時，發生了何進被殺，十常侍亦被何進麾下的將領誅殺的戲碼。
幸存的宦官劫持漢少帝劉辯，最終，得到其弟董旻密報的董卓立下了救駕的大功。
回京後，便掌握朝中大權。
由於何進何苗兄弟已死，袁氏兄弟有意讓當初殺害何苗的吳匡等人背黑鍋。
在董卓的招攬以及吳匡等人的帶領下，何進的部屬皆向董卓投誠，張遼作為大將軍何進的直屬部下之一，隨波逐流，歸順了董卓。
董卓引誘呂布殺害丁原後，由呂布率領丁原的士卒，張遼作為原本丁原的下屬，和呂布同為並州人，自然與對方更為親近。
“並州人張文遠？”董卓心裡暗暗思量著。
其實他心中最信賴的還是與自己有親緣關係的，比如自己的弟弟董旻、族子董越、女婿牛輔等人。
奈何牛輔、董越已經在政變中犧牲。
其次是李傕、張濟、樊稠等與他起於微末之時的涼州將領。
最後才是張遼、高順等其他各勢力投降過來的將領。
當然像呂布這樣的屬於另類，因為被董卓引誘而刺殺原主，董卓為了表率作用，又十分欣賞呂布的騎射才能，自然不同於其他人。
不過，由於呂布有刺殺原主的前科，所以並州軍並非呂布一個人說了算，而是讓張遼、高順、呂布三人分掌。
將並州軍一分為三，三人各自統帥一軍。
至於白起、馮異他們這些人，雖然也是之後投降過來的，卻與並州軍的將領不同。
因為他們之前沒有效力過其他勢力，算是白身。
其次他們都是從普通士卒中，一步步脫穎而出的，這樣的人對於董卓而言更加的重視。
第三，也是最重要的，他們的能力是董卓非常依賴的，特彆是白起這樣能征善戰的將軍，是自己麾下其他將領不能比擬的。更何況對方還是出身郿縣，那是自己的封地，董卓早已經把他當作自己人，信任程度還在李傕等人之上，僅次於自己的弟弟董旻。
董卓的想法是將最信賴的人留在身邊，比如董旻、白起等。
將第二梯隊的李傕等人派出去鎮守四方，如果派遣他最無法信賴的人鎮守緊要的關口，很可能出現一旦敵軍壓境，他們馬上投降的情況，這是非常危險的。
所以董卓聽聞馮異的話，才會猶豫不決。
白起似乎看出了董卓的想法，不禁建言道：“董公，白某與文遠曾經並肩作戰，有他守禦武關，必定一夫當關萬夫莫開。
武關的戰略地位自不必說，相鄰的南陽郡可是袁術的地盤，董公與袁氏兄弟有滅族之仇，隻要他們見到有利可圖，必將兵臨武關，所以必須要既有能力，又忠心的大將鎮守。
請無需懷疑文遠的能力與忠誠，白某願意為張文遠作保！”
董卓見到白起都如此擔保了，也沒有反對，而是向張遼問道：“文遠可有信心守住武關？”
隻見張遼一手握拳，拍打在胸脯上，奮然的說道：“無論袁術是派遣一偏將還是親自率領大軍前來，都休想跨越武關半步。”