也是到了率軍南下太平關的途中，王伏寶才逐漸發現情況不對，殷開山派來助陣的兩千太原軍在行軍途中隊形散漫，武器裝備參差不齊，將領士卒情緒明顯十分緊張，怎麼看都不象是接受過嚴格的軍事訓練。再細一問這支軍隊的來曆，王伏寶又差點一口鮮血噴出喉嚨，原來這兩千太原軍竟然都是殷開山在乘虛攻打臨汾郡腹地時收編網羅的新兵，幾乎都是臨汾郡本地人，輔之以少量當年李家兄弟潰敗時失散的老卒，這樣的軍隊不僅戰鬥力根本靠不住，還隨時可能成為王伏寶軍的累贅！
勃然大怒的王伏寶當然立即派人回去向曹大舅子告狀，曹大舅子也找來了任瓌質問原因，任瓌則一邊解釋說是想幫助王伏寶軍了解臨汾情況，一邊又鬼扯說這兩千軍隊其實非常能打，其中不少人還曾經跟著李淵打進過關中大興，還說什麼天下群雄無不是用這樣的軍隊起家，沒有誰一出道就有成千上萬的精銳戰兵可用。曹大舅子吃人嘴軟，又已經著手布置撤軍返回嶽陽，便也沒有繼續追究，把王伏寶的控訴置之不理了事。
始終沒有得到答複的王伏寶隻能是繼續統兵前進，並於當天傍晚順利抵達距離不是臨汾很遠的太平關外，借著最後的落日餘暉匆忙觀察了一下太平關地形，王伏寶發現守關隋軍雖然戒備嚴密，但不夠險峻的地形卻極大的限製了守禦能力，總體來說不算難打。——老李家當初從太原打的時候，是不費一兵不放一箭就直接逼降了這座小關，陳喪良當初追殺李二的時候，也是靠隋軍將士口咬武器空手攀爬就拿下了這座小關，這處關隘有多脆弱可見一斑。
心裡大概有了底，王伏寶也沒猶豫，當即布置攻關計劃，廢物利用讓太原軍先到關下建立行營，命令太原軍每隔半個時辰或一刻時間就向關口發起一次佯攻，還務必要驚動全關守軍，借以疲敵擾敵。然後王伏寶又命本部軍隊抓緊時間休息，吃飽喝足養好體力，四更半時起身，五更集結聽令，並且提前挑選出了三百名精銳好手侯命。
王伏寶的騷擾戰術十分有用，當天夜裡，太平關守軍確實被太原軍給折騰了一個夠戧，隨機不定的每隔半時辰或者半個小時就被太原軍的呐喊鼓鑼吵醒一番，不斷被迫起身備戰，累死累活卻始終沒有到半個敵人，也逐漸在這種反複的騷擾驚擾中麻木，逐漸喪失了警惕，然後到了五更過後，天色即將黎明，疲憊不堪的隋軍將士昏昏欲睡時，十假之中那一真也終於來了。
借著黎明前的最後黑暗掩護，三百名常年跟隨王伏寶南征北戰的竇軍好手攜帶著繩索楸耙等簡陋攀登工具，悄悄摸到了太平關低矮的關牆下，乘著關中守軍疲憊打盹的機會，幾乎是不發聲響的悄悄爬上關牆，最後還是都已經二十來名竇軍將士爬上關牆頂端了，關牆上的守軍才終於發現敵人來襲，倉促敲響鑼鼓發出警告。
曙色中，竇軍將士將不到二十架的簡陋飛梯迅速搭上關牆，或是踩著飛梯呐喊而上，或是咬著武器直接空手攀登，靠著之前成功登關的同伴死戰掩護，接二連三的衝上關牆，繼而殺入關內劈栓落鎖，奇跡般的在不到半個小時內就打開了太平關北門，竇軍將士蜂擁入內，數量隻有千餘人的太平關守軍看情況不妙，隻能是趕緊打開南門向太平縣逃命，王伏寶乘機催軍入關，順利在太陽越過太行山巔前搶占了這座小關。
成功得手之後，還沒等竇李聯軍歡呼落定，也還沒等太原軍把不多的糧草軍需運進城內，異變突生，隆隆馬蹄聲中，北麵的臨汾方向已然有隋軍騎兵殺來，打的還是隋軍猛將秦瓊的旗號。王伏寶見了大驚，趕緊命令太原軍上前迎戰，同時派人搶運糧草軍需進關，而剛逃走沒多遠的太平關守軍發現援軍到來後，也立即掉頭殺來，逼得王伏寶隻能是趕緊關閉太平關南門，指揮將士登牆而守。
太原軍在戰場上的表現比王伏寶擔心的還要糟糕，匆忙掉頭迎戰後，秦瓊率領隋軍騎兵隻用了一個衝鋒，就把太原軍衝得土崩瓦解，零落星散，然後隋軍騎兵馬不停蹄，又立即向著正在緊急搬運糧草軍需的竇軍將士殺來，王伏寶被迫無奈，隻能是命令將士放棄尚未進關的糧草軍需，全部退守關內，險之又險的及時關上了北門，沒給隋軍騎兵乘機殺入太平關的機會。
陽光灑滿太平小關的時候，隋軍的步兵大隊也已經來到了太平關北門外，旗幟如海，刀槍似林，徹底攔住了王伏寶軍的北上撤退道路。殷開山派來敷衍坑爹的太原軍士卒在關外跪滿一地，降者成群成片，求饒乞命聲不絕於耳，王伏寶等竇軍將士卻是在關牆上臉色嚴峻，默默注視著太原軍爭相投降獻媚的醜態，大都一聲不吭。
旗幟飄揚間，已經在戰場上和王伏寶打過許多交道的秦瓊親自拍馬來到了關下，衝著關牆上大聲喊道：“王伏寶將軍！曹旦匹夫昨天晚上已經帶著軍隊跑了，殷開山老匹夫帶著太原賊軍跑得更快，你現在已經是一支孤軍了，曹旦和太原賊軍不可能有援軍給你，我們的主力大軍也正在向著這裡開拔，你無路可逃！還不投降，更待何時？！”
王伏寶不吭聲，秦瓊卻又在關下大喊道：“王將軍，你在竇建德麾下的處境，我們也有所了解！竇建德有眼無珠，聽信讒言，對你虧欠良多，曹旦匹夫與你有私仇，竇建德卻還派他來擔任主帥，任由曹旦匹夫公報私仇，對你百般陷害苛刻，你還執迷不悟做什麼？豈不聞良禽擇木而棲，賢臣擇主而事？唐王殿下英明神武，禮賢下士，知人善任，你若開關投降，唐王殿下必然會重用於你！我與你雖是敵人，對你有仍然是欽佩萬分，我願折箭為誓，保你在唐王殿下麵前……。”
“放箭！”
王伏寶終於開口，平靜下令，旁邊的竇軍士兵也沒有猶豫，立即拉弓放箭射擊秦瓊，秦瓊大怒，一邊避箭回馬，一邊用馬槊指著關上大罵道：“王伏寶！匹夫！我好心救你性命，你還放箭射我！好！既然你執意尋死，那我就成全你，我倒要看看，你在這座收稅小關裡能守多久！”
王伏寶根本就沒理會秦瓊的叫罵，隻是轉向了左右吩咐道：“傳令下去，立即著手布防，準備守關，陳賊軍隊有可能很快就會發起進攻。”
左右答應，然後又有人怯生生的問道：“將軍，們已經是孤軍了，接下來怎麼辦？”
“堅守九天。”王伏寶不動聲色的答道：“曹將軍昨日命令我軍十天後突圍，堅守九天，我們再突圍撤回嶽陽。”
“九天？九天後突圍？”左右部下無不傻眼，紛紛問道：“將軍，這座太平關關牆隻有一丈半，又沒有鹿角拒馬和壕溝，賊軍主力又馬上就要來了，我們守得住九天嗎？就算我們守住了九天，九天後也肯定已經是傷亡慘重，還怎麼突圍啊？”
“守不住也得守。”王伏寶淡淡回答，又道：“隻有守住了九天，如何突圍我再想辦法。”
王伏寶的努力不是沒有收獲，至少因為他南下攻打太平關的緣故，害怕主力進兵受阻的隋軍秦瓊部就放過了乘機追殺曹旦和殷開山的機會，優先出兵來救太平關——隻是秦瓊真沒想到王伏寶會這麼快就拿下了太平關。曹大舅子則乘機跑遠，大踏步逃往可以隨時撤回上黨郡的嶽陽縣城，殷開山跑得更快，剛和曹大舅子分兵就大踏步直往霍邑逃命，同時殷開山和任瓌等太原文武還少不得沾沾自喜一番，“左右都督妙計，王伏寶匹夫確實是一個二楞子啊！”
王伏寶的二愣子性格幫了曹大舅子和殷開山，卻徹底激怒了隋軍將士，已經幾次王伏寶麵前灰頭土臉的秦瓊自不用說，咬牙切齒要報仇雪恨，正在急行北上的程咬金和薛仁果二將收到太平關失守的消息後，也是雙雙暴跳如雷，一起催促軍隊快行，也一起賭咒發誓，“等打下了太平關，老子一定要把王伏寶匹夫裝進麻袋，用三百匹戰馬活生生踩死！”