滕縣，南距徐州一百多公裡，扼守津滬鐵路的咽喉，自古就是兵家必爭之地，如今更成為雙方爭奪的戰略要點。
從3月9號起，日軍就調集重兵發起總攻，日軍發起總攻以後，用飛機、大炮狂轟濫炸，多次組織衝鋒，均被國軍打退。
3月10日，第22集團軍孫總司令調整部署，加強守備，將二線部隊122師師部及其364旅旅部調進滕縣城，並命122師王銘章師長為第41軍前方總指揮。
3月12日拂曉，日軍以主力攻香城，激戰3小時後我軍被迫轉移到普陽山防禦。日軍隨後進攻，都被國軍擊退。
不多時，日軍改變戰術，以一部分兵力佯攻，其主力向國軍右後方迂回，向滕縣方向前進。沒過多久，國軍同普陽山的電話線被敵切斷，聯絡中止。日軍到龍山腳下，擊潰國軍的預備隊，守軍向滕縣撤退。
與此同時，界河一線的左翼石牆、深井等陣地，也受到從濟寧來的日軍攻擊。在敵眾我寡的形勢下，國軍放棄石牆，集中兵力防守深井；普陽山的守軍轉移黃山據守，並派372旅743團馳援深井。
3月15日9時，日本第10步兵聯隊在界河南安樓、房嶺地區集結。然後根據日軍偵察機的彙報，得知中華軍隊以滕縣為中心，在其北設有數道堅固陣地。
11時25分，聯隊受賴穀支隊作命第9號，決定將第12中隊留在界河驛警備，以步兵5個中隊從滕縣防備薄弱的東部攻擊。
下午3時，日軍到達崔家莊，沿龍山店東郭王廟攻擊前進，戰鬥異常激烈，國軍防守頑強擊敗日軍多次衝鋒，雙方傷亡慘重。
下午5時許，日軍的先頭部隊已達滕縣的龍陽店、馮河一帶，距城僅有十餘裡。
晚8時50分，日本第10聯隊集結在薑家樓、王廟一線，聯隊長赤柴八重藏大佐綜合各方情報判斷，川軍主力集結一線，滕縣附近無大量兵力，決心拋開當麵陣地，第2天拂曉以兩個大隊兵分兩路乘虛攻擊滕縣縣城。
日軍的企圖十分明顯，想避開國軍正麵陣地，直攻國軍側背戰略要點滕縣城，迫使國軍主力放棄正麵陣地。
但是由於外圍陣地的戰鬥很激烈，所有的部隊都用在外圍戰鬥了，藤縣兵力空虛，隻有122師，124師，127師三個師的師部和346旅旅部，共計四個特務連（警衛連），四個通訊兵，還有一些衛生隊，藤縣總指揮王銘章將軍手裡已經沒有什麼作戰兵力可用。
王銘章師長統計能指揮的城內各部隊僅三千餘人，而在這三千餘人中，還包含了藤縣的警察和保安隊四五百人，真正能夠參戰的不到兩千人，這樣的力量，難以抵禦裝備齊全的日軍。
王銘章師長召開緊急會議，研究戰略決策問題，大部分人認為都隻能守1天，不如到城外機動作戰。
在此緊急關頭，122師師長王銘章急調防守北沙河的727團張宣武團長和一個營的戰鬥部隊回城防守，並任命張宣武為城防司令，負責守城。
王銘章師長對張宣武說：“張團長！你立即傳諭昭告城內全體官兵，我們決定死守滕城。我和大家一道，城存與存，城亡與亡。立即把南、北兩城門屯閉堵死，東、西城門暫留交通道路，也隨時準備封閉。沒有我的手令，誰也不準出城，違者就地正法！”同時又令人把師指揮部從西關電燈廠搬到城內張景湖宅院內。。
而後，王銘章師長又電令在平邑前線的266旅火速回滕。但是又怕266旅途中受阻，王師長又用電話向司令部求援。第22集團軍孫總司令急忙與增援滕縣的友軍湯恩伯軍團的先頭部隊王仲廉軍長聯係，請求火速增援。
但王仲廉以須等軍團到齊才能北上為由，按兵臨城不動。
孫震萬般無奈，隻好將正在總部值勤的特務營，除留下一個手槍連作警衛外，其他3個步兵連由劉止戎營長帶領，乘火車馳援滕縣城，入夜後到達。
午夜後，266旅隻有駐城前的一個營到達滕縣東關，其他部隊途中被敵所阻，隻能被迫繞道向臨城方向撤去。
3月16日早上8點，日軍第10聯隊的第1大隊已抵達城下。遙望滕縣縣城高聳，城內有納粹旗幟飄揚，估計是德國教堂所在。滕縣規模宏大，城牆高10米，厚5米，外壕深5米，寬12米，北麵最完備，東麵次之，南麵雖然比較薄弱，但後來日軍從這進攻時，卻是川軍的防禦重點。城東北角約150米有一高30米的喇嘛塔，從此處瞭望，滕縣內外情況一覽無餘，對炮兵觀察十分有利
上午10時，日軍野炮第一大隊抵達然後和日軍飛機聯合對藤縣發起轟炸，經兩個小時轟炸，城內外共落炮彈三千多發。
11時15分，日炮突然向東關寨牆的東南角猛轟，不一會炸開一二米寬的缺口。接著，日軍又用數十挺輕、重機槍猛烈掃射缺口，掩護步兵衝擊。
川軍守兵伏伺塌口兩側，嚴陣以待，當有五六十個小鬼子衝到塌口時，第371團的一個連集中兵力人，每人握四、五枚手榴彈，同時投向敵群，日軍生逃者不滿10人。
日軍不甘心失敗，又連續組織了兩次進攻，都被守軍打退。
下午2時許，日軍第10聯隊3大隊趕到滕縣，從南門進攻，也沒如願，丟下了百餘具屍體，川軍的傷亡也很大。
張宣武團長不斷派部隊增援，後來激烈時連王銘章師長的特務連也調到東關參戰。下午5時許，敵炮與敵機同時轟炸東關正麵陣地，步兵改用一次三個排，每排相距百餘米，向我陣地衝擊。
川軍英勇頑強，接連打退第一、二兩個排的進攻，日軍第三排又衝上來，於是展開肉搏，雙方傷亡慘重，最後仍有40多個小鬼子突入關內。
此時夜幕已下，日軍未再派兵，川軍又集中一個連的兵力圍攻日軍，終於全殲這股日兵，東關陣地失而複得。
晚上8時許戰鬥停止，隻有日軍的照明彈不時劃破夜空，照得城內外如同白晝。
經過連日的慘烈戰鬥，第41軍早就已經傷亡過半，為了能夠集中力量守住城垣，晚上9點，王銘章師長隻能命令外圍部隊撤回城內，依托城牆防守。