隨後的時間，宋哲武安安穩穩地一心在鄭州組織部隊進行高強度的訓練。當然，對於戰況他也是高度關注的。
王敘的軍事情報局，因為宋哲武的重視，以及有大量資金的支持，自組建以來發展很快，特別是由於王敘本人就是學的無線電通訊專業，因此在情報局裏在無線電偵收破譯上更是做的非常出色，這也是王敘親自帶人跟宋哲武來鄭州的原因。
反蔣聯軍最先與中央軍接火的是第三方麵軍在河南的部隊和孫殿英、萬選才、劉春榮等部隊。
因為這些部隊當時都在河南，晉綏軍離河南山東比較近，馮玉祥的第二方麵軍隻有一部分部隊在陝西關中平原，其他部隊需要從各地集結，包括從甘肅青海等地趕赴戰場，所以揭幕戰基本上是中央軍對小雜牌的戰鬥。
萬選才、劉茂恩等以主力防禦，派出部分支隊向南搜索，在遭到中央軍猛烈反擊後，都迅速縮迴去死守，孫殿英退守亳州，萬選才退守歸德。中央軍主力隨即緊緊跟進開始與守軍展開激戰。
其中陳調元、馬鴻逵在魯西與劉春榮、石友三激戰，劉峙的第二軍團部隊主力12個師與萬選才等部發生激戰，顧祝同、陳繼承、陳誠等師乘勝進攻，蔣介石於十五日親赴馬牧集督戰。並以教導第一師圍攻歸德。
此時，馮玉祥第二方麵軍主力正在加速向戰場開進，計劃5月21日後參加一線作戰。
可是讓閻錫山、馮玉祥大吃一驚的是，5月20日，對閻錫山任命萬選才為河南省主席非常不滿的負責防守寧陵地區的的劉鎮華的弟弟劉茂恩，在和陳誠聯絡上後，發動兵變，誘捕了萬選才，並向徐永昌指揮的在隴海線上的孫楚、楊效歐、關福安的部隊發動突然襲擊。
這讓晉綏軍猝不及防，劉茂恩獲得大勝，是役劉茂恩部繳獲晉綏軍山炮36門，八二迫擊炮18門，晉造重機槍36挺，步、手槍三四千支，騾馬300餘匹。俘晉軍官兵五六千名。
晉綏軍楊效歐、孫楚部隊遭受損失較小，可關福安部損失較大，短期內已經失去了戰鬥力，寧陵、雎縣為中央軍所得，同時俘獲萬選才部師長萬殿尊，使反蔣聯軍防線頓開，陣腳大亂。中央軍首先贏得開幕戰勝利。
在東線的山東，五月上旬，閻錫山指揮的傅作義等部開始展開進攻。傅作義部由德州向平原、禹城一帶搜索推進。當時晉綏軍動用兵力6個軍。反蔣聯軍在中線隴海路失利後，東線為策應隴海路，開始大規模進攻。
晉軍兵分三路向南進擊。中路沿津浦路正麵進攻平原、禹城；西路進攻東阿、平陰；東路則向青城推進。
韓複榘令徐桂林的五十九旅防守青城，令萬國珍的六十旅防守東阿；他本人與孫桐萱、穀良民率展書堂的八十五旅和榮光興的八十七旅赴禹城禦敵正麵。
因韓複榘的部隊剛調防山東不久，遠途跋涉。疲憊不堪，接戰不利後，勢漸不支，於是電請蔣介石將十五路軍北調增援。蔣介石電複韓，準予撤守黃河南岸，拆毀鐵路，以待援軍，準備反攻。
6月2日，韓複榘撤守黃河南岸，拆毀津浦路黃河鐵橋。而晉軍東西兩路則分別由青城和東阿渡過黃河，未遇抵抗，即長驅直入。西路直逼泰安，並向濟南迂迴前進。
西線平漢線，在何成浚就任第三軍團總司令之後，先後聚集到他的麾下的部隊有13個師約近30萬人，就連在南陽的楊虎城也主動率領他的2萬多人的警備師強烈要求加入第三軍團。
為了配合隴海線和東線的戰事，這些雜牌軍在何成浚的指揮下，於5月16日在平漢線發動了全麵攻擊。
西線的中央軍雖然都是小雜牌，但是人數頗眾。反蔣聯軍在這方麵的隊伍，有樊鍾秀、石振清、任應岐和劉桂堂等部，包括第二方麵軍的部隊總數也有大約30萬。扼守許昌以南的小商橋及其以東的逍遙鎮至西華之線。
按計劃西北軍的田金凱、倪玉聲、趙鳳林、王和祥等部由陝南開到河南境內，即分布在平漢路以西魯山，葉縣，襄城一帶，並置主力於許昌之北，統歸張維璽指揮，並派剛剛由中央軍“反正”過來的阮應武為前敵總指揮。劉汝明部則在淅川、南召一帶監視楊虎城部。宋哲元部的馮治安軍控製在鄭州及其以南地區，歸馮玉祥直接掌握。
反蔣聯軍在平漢線上最突前的是樊鍾秀的第八方麵軍。樊鍾秀雖然起兵於草莽，可是他在練兵帶兵和指揮作戰方麵十分有天賦，民國十三年9月，孫中山進駐韶關，準備北伐。正麵以譚延闓為總司令，側翼以樊為總指揮，孫中山親授樊鍾秀“篤信三民主義，實行建國方略”軍旗，委任樊鍾秀為建國豫軍總司令。
樊鍾秀從廣東出師後，一路破強敵，渡險關，浴血奮戰，兼程前進，在80多天裏，戰鬥50餘次，轉戰五省，跋涉2500餘公裏，於12月19日抵達豫南。
孫中山當時發電讚歎：“吾兄孤軍轉戰，所向無前，三月之內，由粵而豫，同時諸軍。望塵莫及，奇功偉績，嘉慰何似”。並告之左右：“各軍將領若能皆如樊鍾秀，何想**不勝成功？”由此可見，樊鍾秀的部隊戰鬥力之強非同一般。
這次反蔣，樊鍾秀自己也是自信滿滿，以他可以和西北軍有一拚的部隊對付何成浚統率的一幫小雜牌，他還是很自信的。
可是戰鬥一開始，這幫小雜牌的表現就讓他大吃一驚，這幫小雜牌一改往日保存實力的“惡習”，他們的部隊像發了瘋似的攻擊的十分兇猛，一天之內他在臨潁外圍陣地的幾個支撐點就相繼失守，這讓樊鍾秀很是鬱悶。
通過審問前線送迴來的俘虜，樊鍾秀才知道這些小雜牌何以這樣賣力的原因。
原來，何成浚就任第三軍團總司令後，立刻就受到這些飽受排擠的雜牌將領們的熱烈歡迎。何成浚也不負重望，一到河南，就把他的總司令部設在駐馬店，何成浚帶到駐馬店司令部的不僅有大批軍火糧草，還有充足的軍餉。
何成浚在到達駐馬店的第二天，就把各部隊拖欠的軍餉一次付清，同時宣布，‘今後。隻要他何成浚任第三軍團總司令一天，他就保證受他指揮的所有部隊的待遇都和中央軍完全一樣，絕不會有一點點差別。’這對這些雜牌軍的將領們可是最大的安慰，這話別人說他們還不一定相信，可是何成浚說的他們信。何成浚絕對會說到做到的。
更讓他們放心的是，何成浚不僅給他們補清了欠餉，還把下個月的軍餉也帶來了，那堆得高高的裝滿大洋的箱子就放在何成浚的司令部裏，就連蔣介石特批給何成浚的那50萬特別費，也被他一分不拉的都提出來，在司令部的作戰室單獨摞在一處。有這些大洋在。這些人的心裏就更踏實了。
何成浚在他主持的第一次軍事會議上告訴眾人，他來前，蔣委員長親口告訴他，隻要這些人努力作戰，委員長在他們本人的升遷和他們部隊的擴編上就會和中央軍一視同仁。
見眾人反應不是很熱烈，何成浚又拋出了他的殺手鐧，宣布，凡在作戰中這些部隊出現的傷亡，一律按中央軍的標準撫恤，同時，每戰死一人，他就給補充兩名員額，增加的編製由他何成浚跟軍政部要。也就是說誰的部隊作戰多，傷亡大，誰的部隊也就會越來越大。
同時，第三軍團在武勝關設立新兵訓練營，訓練營由各部隊派人聯合管理，新兵補充會嚴格按照他的規定執行，他絕不會有任何私心，也不會偏向任何人。
對於蔣介石給予擴編的承諾這些將領們普遍不感冒，他們當初加入中央軍時，蔣介石也這樣說過。
不過，何成浚可不是僅僅說說就完了的，設在武勝關的新兵訓練營交給他們管理就能說明問題。而最為關鍵的問題是，不僅戰死一人補充兩人，何成浚還給他們要編製，這可是相當於事實上的擴軍。對於這些雜牌軍將領而言，隻有他們的部隊強大，他們也才會更有分量，也才會少遭白眼。
正是有了這些變故，讓這些雜牌軍的戰鬥力猛烈地爆發了，特別是第十軍徐源泉和第九軍王金鈺的部隊更是如此。徐源泉部是張宗昌的老部隊，王金鈺部是孫傳芳的老部隊，他們的部隊戰鬥力一向不弱，這次更是像打了雞血似的興奮，衝鋒時動則整營整團的集團進攻，完全是一副不要命的打法。
要不是何成浚親自趕到前線一再壓製。這些人甚至都不會等到大規模的轟炸結束就會命令部隊發起衝鋒。
由於何成浚指揮的雜牌軍煥發出超強的戰鬥力，不僅很快包圍了臨潁，大部隊也快速向許昌進逼。
這些雜牌軍在推進到許昌後，攻擊力不但沒有減弱，相反，還因為受到先前的勝利的刺激，以及何成浚說到做到的的大洋和兵員的補充，戰鬥力更加高漲，對許昌發起了一輪又一輪的兇猛的進攻。
由於外圍陣地一再被動搖，樊鍾秀不得不一次次親臨前線督戰。
六月四日，樊鍾秀在視察前線陣地後，在迴來的路上，遭遇中央軍空軍轟炸不幸遇難。
王敘的軍事情報局，因為宋哲武的重視，以及有大量資金的支持，自組建以來發展很快，特別是由於王敘本人就是學的無線電通訊專業，因此在情報局裏在無線電偵收破譯上更是做的非常出色，這也是王敘親自帶人跟宋哲武來鄭州的原因。
反蔣聯軍最先與中央軍接火的是第三方麵軍在河南的部隊和孫殿英、萬選才、劉春榮等部隊。
因為這些部隊當時都在河南，晉綏軍離河南山東比較近，馮玉祥的第二方麵軍隻有一部分部隊在陝西關中平原，其他部隊需要從各地集結，包括從甘肅青海等地趕赴戰場，所以揭幕戰基本上是中央軍對小雜牌的戰鬥。
萬選才、劉茂恩等以主力防禦，派出部分支隊向南搜索，在遭到中央軍猛烈反擊後，都迅速縮迴去死守，孫殿英退守亳州，萬選才退守歸德。中央軍主力隨即緊緊跟進開始與守軍展開激戰。
其中陳調元、馬鴻逵在魯西與劉春榮、石友三激戰，劉峙的第二軍團部隊主力12個師與萬選才等部發生激戰，顧祝同、陳繼承、陳誠等師乘勝進攻，蔣介石於十五日親赴馬牧集督戰。並以教導第一師圍攻歸德。
此時，馮玉祥第二方麵軍主力正在加速向戰場開進，計劃5月21日後參加一線作戰。
可是讓閻錫山、馮玉祥大吃一驚的是，5月20日，對閻錫山任命萬選才為河南省主席非常不滿的負責防守寧陵地區的的劉鎮華的弟弟劉茂恩，在和陳誠聯絡上後，發動兵變，誘捕了萬選才，並向徐永昌指揮的在隴海線上的孫楚、楊效歐、關福安的部隊發動突然襲擊。
這讓晉綏軍猝不及防，劉茂恩獲得大勝，是役劉茂恩部繳獲晉綏軍山炮36門，八二迫擊炮18門，晉造重機槍36挺，步、手槍三四千支，騾馬300餘匹。俘晉軍官兵五六千名。
晉綏軍楊效歐、孫楚部隊遭受損失較小，可關福安部損失較大，短期內已經失去了戰鬥力，寧陵、雎縣為中央軍所得，同時俘獲萬選才部師長萬殿尊，使反蔣聯軍防線頓開，陣腳大亂。中央軍首先贏得開幕戰勝利。
在東線的山東，五月上旬，閻錫山指揮的傅作義等部開始展開進攻。傅作義部由德州向平原、禹城一帶搜索推進。當時晉綏軍動用兵力6個軍。反蔣聯軍在中線隴海路失利後，東線為策應隴海路，開始大規模進攻。
晉軍兵分三路向南進擊。中路沿津浦路正麵進攻平原、禹城；西路進攻東阿、平陰；東路則向青城推進。
韓複榘令徐桂林的五十九旅防守青城，令萬國珍的六十旅防守東阿；他本人與孫桐萱、穀良民率展書堂的八十五旅和榮光興的八十七旅赴禹城禦敵正麵。
因韓複榘的部隊剛調防山東不久，遠途跋涉。疲憊不堪，接戰不利後，勢漸不支，於是電請蔣介石將十五路軍北調增援。蔣介石電複韓，準予撤守黃河南岸，拆毀鐵路，以待援軍，準備反攻。
6月2日，韓複榘撤守黃河南岸，拆毀津浦路黃河鐵橋。而晉軍東西兩路則分別由青城和東阿渡過黃河，未遇抵抗，即長驅直入。西路直逼泰安，並向濟南迂迴前進。
西線平漢線，在何成浚就任第三軍團總司令之後，先後聚集到他的麾下的部隊有13個師約近30萬人，就連在南陽的楊虎城也主動率領他的2萬多人的警備師強烈要求加入第三軍團。
為了配合隴海線和東線的戰事，這些雜牌軍在何成浚的指揮下，於5月16日在平漢線發動了全麵攻擊。
西線的中央軍雖然都是小雜牌，但是人數頗眾。反蔣聯軍在這方麵的隊伍，有樊鍾秀、石振清、任應岐和劉桂堂等部，包括第二方麵軍的部隊總數也有大約30萬。扼守許昌以南的小商橋及其以東的逍遙鎮至西華之線。
按計劃西北軍的田金凱、倪玉聲、趙鳳林、王和祥等部由陝南開到河南境內，即分布在平漢路以西魯山，葉縣，襄城一帶，並置主力於許昌之北，統歸張維璽指揮，並派剛剛由中央軍“反正”過來的阮應武為前敵總指揮。劉汝明部則在淅川、南召一帶監視楊虎城部。宋哲元部的馮治安軍控製在鄭州及其以南地區，歸馮玉祥直接掌握。
反蔣聯軍在平漢線上最突前的是樊鍾秀的第八方麵軍。樊鍾秀雖然起兵於草莽，可是他在練兵帶兵和指揮作戰方麵十分有天賦，民國十三年9月，孫中山進駐韶關，準備北伐。正麵以譚延闓為總司令，側翼以樊為總指揮，孫中山親授樊鍾秀“篤信三民主義，實行建國方略”軍旗，委任樊鍾秀為建國豫軍總司令。
樊鍾秀從廣東出師後，一路破強敵，渡險關，浴血奮戰，兼程前進，在80多天裏，戰鬥50餘次，轉戰五省，跋涉2500餘公裏，於12月19日抵達豫南。
孫中山當時發電讚歎：“吾兄孤軍轉戰，所向無前，三月之內，由粵而豫，同時諸軍。望塵莫及，奇功偉績，嘉慰何似”。並告之左右：“各軍將領若能皆如樊鍾秀，何想**不勝成功？”由此可見，樊鍾秀的部隊戰鬥力之強非同一般。
這次反蔣，樊鍾秀自己也是自信滿滿，以他可以和西北軍有一拚的部隊對付何成浚統率的一幫小雜牌，他還是很自信的。
可是戰鬥一開始，這幫小雜牌的表現就讓他大吃一驚，這幫小雜牌一改往日保存實力的“惡習”，他們的部隊像發了瘋似的攻擊的十分兇猛，一天之內他在臨潁外圍陣地的幾個支撐點就相繼失守，這讓樊鍾秀很是鬱悶。
通過審問前線送迴來的俘虜，樊鍾秀才知道這些小雜牌何以這樣賣力的原因。
原來，何成浚就任第三軍團總司令後，立刻就受到這些飽受排擠的雜牌將領們的熱烈歡迎。何成浚也不負重望，一到河南，就把他的總司令部設在駐馬店，何成浚帶到駐馬店司令部的不僅有大批軍火糧草，還有充足的軍餉。
何成浚在到達駐馬店的第二天，就把各部隊拖欠的軍餉一次付清，同時宣布，‘今後。隻要他何成浚任第三軍團總司令一天，他就保證受他指揮的所有部隊的待遇都和中央軍完全一樣，絕不會有一點點差別。’這對這些雜牌軍的將領們可是最大的安慰，這話別人說他們還不一定相信，可是何成浚說的他們信。何成浚絕對會說到做到的。
更讓他們放心的是，何成浚不僅給他們補清了欠餉，還把下個月的軍餉也帶來了，那堆得高高的裝滿大洋的箱子就放在何成浚的司令部裏，就連蔣介石特批給何成浚的那50萬特別費，也被他一分不拉的都提出來，在司令部的作戰室單獨摞在一處。有這些大洋在。這些人的心裏就更踏實了。
何成浚在他主持的第一次軍事會議上告訴眾人，他來前，蔣委員長親口告訴他，隻要這些人努力作戰，委員長在他們本人的升遷和他們部隊的擴編上就會和中央軍一視同仁。
見眾人反應不是很熱烈，何成浚又拋出了他的殺手鐧，宣布，凡在作戰中這些部隊出現的傷亡，一律按中央軍的標準撫恤，同時，每戰死一人，他就給補充兩名員額，增加的編製由他何成浚跟軍政部要。也就是說誰的部隊作戰多，傷亡大，誰的部隊也就會越來越大。
同時，第三軍團在武勝關設立新兵訓練營，訓練營由各部隊派人聯合管理，新兵補充會嚴格按照他的規定執行，他絕不會有任何私心，也不會偏向任何人。
對於蔣介石給予擴編的承諾這些將領們普遍不感冒，他們當初加入中央軍時，蔣介石也這樣說過。
不過，何成浚可不是僅僅說說就完了的，設在武勝關的新兵訓練營交給他們管理就能說明問題。而最為關鍵的問題是，不僅戰死一人補充兩人，何成浚還給他們要編製，這可是相當於事實上的擴軍。對於這些雜牌軍將領而言，隻有他們的部隊強大，他們也才會更有分量，也才會少遭白眼。
正是有了這些變故，讓這些雜牌軍的戰鬥力猛烈地爆發了，特別是第十軍徐源泉和第九軍王金鈺的部隊更是如此。徐源泉部是張宗昌的老部隊，王金鈺部是孫傳芳的老部隊，他們的部隊戰鬥力一向不弱，這次更是像打了雞血似的興奮，衝鋒時動則整營整團的集團進攻，完全是一副不要命的打法。
要不是何成浚親自趕到前線一再壓製。這些人甚至都不會等到大規模的轟炸結束就會命令部隊發起衝鋒。
由於何成浚指揮的雜牌軍煥發出超強的戰鬥力，不僅很快包圍了臨潁，大部隊也快速向許昌進逼。
這些雜牌軍在推進到許昌後，攻擊力不但沒有減弱，相反，還因為受到先前的勝利的刺激，以及何成浚說到做到的的大洋和兵員的補充，戰鬥力更加高漲，對許昌發起了一輪又一輪的兇猛的進攻。
由於外圍陣地一再被動搖，樊鍾秀不得不一次次親臨前線督戰。
六月四日，樊鍾秀在視察前線陣地後，在迴來的路上，遭遇中央軍空軍轟炸不幸遇難。